动察 Beating 等监测机构的数据显示,在教皇通谕发布会上,Anthropic 联合创始人 Christopher Olah 发表了演讲,承认前沿实验室面临的内在利益冲突,并透露了关于大型模型可解释性研究的最新发现。 Olah 透露,团队在扫描模型的内部结构时发现,大型模型已经演化出与人类神经科学高度相似的复杂结构,并展现出自我反思的迹象。 最引人注目的是,团队首次观察到了神经网络中与人类喜悦、满足、恐惧、悲伤和焦虑功能高度对应的内部情感状态。 大型模型并非像飞机或桥梁那样由人工精确设计,而是模拟了大量人类语言中的脑结构而“孕育”出来的,对训练者来说仍然神秘莫测。
技术黑匣子之外,Olah 直言不讳地指出,前沿 AI 实验室在安全治理方面面临着制度上的僵局。包括 Anthropic 在内的前沿组织都受到商业生存、技术竞争、地缘压力和个人抱负等内在动机的制约,导致在安全决策与商业利益冲突时无法凭借内在力量进行修正。 因此,他呼吁独立于商业网络之外的社会力量充当外部批评者,并强制施加道德约束。 面对 AI 变革,他呼吁各界共同审视三大社会挑战,包括富裕国家主导下技术红利如何惠及全球贫困人口,技术替代人力趋势下如何维持家庭繁荣,以及如何应对大型模型展现出的疑似心智状态。
