此次联名信认为,OpenAI 拟议的重组会将 AGI 开发的控制权转移给一家以利润为驱动的公司。这与 OpenAI 的创始使命是相悖的。OpenAI 的创始使命是要确保 AGI 能造福全人类,而不是去实现“任何个人的私利”。
据了解,Stuart Russell 参与签署了联名信。他表示:如果 OpenAI 放弃对其营利性子公司的控制权,这明显违背了其宣称的慈善宗旨。并且还会大大增加其 CEO 所描述的“我们所有人都将陷入黑暗”的可能性。Hinton 参与签署了联名信,他表示:“我期望(OpenAI)能够执行这一(原始)使命,而不是为投资者谋取利益。”联名信的签署者们写道:“拟议中的重组对所有这些保障措施构成了威胁,所以应该予以制止。”
信中表明,OpenAI 的结构是为了平衡市场力量与它的使命,然而拟议中的变革会舍弃这些措施,进而屈服于财务压力。签署者们对将运营控制权从非营利实体转移给公益公司的计划表示反对,并且指出这种转变会让股东利益优先于公共安全。前 OpenAI 员工佩奇·赫德利是信件签署者之一,他表示:“OpenAI 的使命不是竞争。从各个方面来看,它在筹资方面已经获得了非凡的成功。”
OpenAI 重组的理由遭到了签署者们的质疑。此前,OpenAI 称是为了能与其他资金充裕的 AI 公司保持竞争力,所以表示需要简化资本结构。然而,此次的联名信对此表示异议,指出 OpenAI 的竞争对手不像其目前的非营利结构那样受信托责任约束,也就无需优先考虑公共福利。
联名信称:OpenAI 指出,存在投资者利益需服从使命这一需要解决的问题,而这恰恰是在不破坏使命的情况下无法改变的。OpenAI 还宣称,此次重组会让该非营利组织成为“历史上资源较为丰富的非营利组织之一”。不过,这封联名信觉得 OpenAI 只应获得其在营利性部门所持股份的公平市场价值。
联名信强调,OpenAI 的非营利组织结构并非只是一种形式,而是有法律约束力的机制。联名信还批评了在新架构下对于谁将控制 AGI 技术这一问题,并且质疑了 OpenAI 的最大投资者微软能否获取该技术的透明度。签署者们存有担忧,OpenAI 章程里的“停止并协助”条款将不再具备可执行性。此条款规定,倘若其他与安全相关的 AGI 项目率先达成 AGI,那么 OpenAI 就必须对这些项目予以支持。
联名信认为,OpenAI 的重组会以牺牲公众利益为代价,从而让 OpenAI 的股东受益。这会对 AGI 的开发方式、从中获利的人以及最终控制它的人产生影响。签署者们还表示,关键在于 OpenAI 是投入时间和资源去确保其 AI 系统对人类安全且有益,还是为了竞争和财务收益而不顾一切地向前冲。
事实上,对 OpenAI 的担忧并非仅局限于这封联名信。在此之前,有 12 名前 OpenAI 员工递交了一封支持埃隆·马斯克起诉 OpenAI 的信件,该信件中重复了诸多相同的批评意见。文件指控 OpenAI 利用其非营利组织的身份来吸引那些以安全为研发导向的研究人员,同时在内部为商业转型进行准备。
另外得知,本次联名信获得了美国哈佛大学的研究人员支持,也获得了美国加州大学洛杉矶分校的研究人员支持,还获得了美国哥伦比亚大学的研究人员支持。而这封信将会起到何种作用,或许在不久之后就能揭晓。
参考资料:
联名信#names