AI民主化大爷大妈也要来教AI做人了

论文出处：Anthropic

论文标题： Collective Constitutional AI: Aligning a Language Model with Public In put

你们知道吗？那些整天在实验室里撸代码的AI研究员们终于意识到，光靠他们那几个人的脑子想出来的AI，可能跟正常人类的脑回路不太一样。

这就好比让一群从小就被关在实验室里的科学怪人来教导一个刚出生的婴儿如何做人。结果可想而知，这孩子长大后可能会认为在电梯里放屁是正常社交礼仪，或者觉得用显微镜看别人的鼻毛是再正常不过的事情。

所以呢，一群叫Anthropic的研究员们突发奇想：要不咱们让普通人也来参与AI的"教育"过程吧！这个想法听起来跟让一群没当过家长的人来集体抚养一个孩子差不多靠谱。但是，你别说，这帮家伙还真就这么干了。

那么问题来了，这帮研究员到底整了个啥？

简单来说，他们搞了一个多阶段的过程，让普通人也能参与到AI的"教育"中来。就好比是给AI办了个选秀节目，让大家投票决定它该怎么表现。

先找一群"合适"的人。

让这群人提出一堆原则。

然后用这些原则去训练AI模型。

最后再评估一下这个被"民主"洗脑的AI。

听起来是不是很像选总统？只不过这次选的是AI的"脑子"。

他们把玩意儿叫做"集体宪法AI"（Collective Constitutional AI）。这名字听着像是要给AI立宪，其实说白了就是让一群普通美国佬来告诉AI该怎么做人。

这帮研究员先是找了一群美国人，让他们提出一些原则，说说AI应该怎么表现。然后呢，他们就用这些原则来训练AI模型。你可以把这个过程想象成是在给AI洗脑，就像某些国家的义务教育一样，只不过这回是美国大爷大妈们在洗AI的脑。

结果怎么样呢？还真他娘的有点意思。

首先呢，这些普通美国人提出的原则，比那些AI公司自己定的原则更注重客观性和可及性。这就好比是让一群街头混混来制定校规，结果他们反而比那些老古董校长想得更周到。

更神奇的是，这个被"群众智慧"教育出来的AI，在处理一些敏感话题时，表现得比那些"精英教育"出来的AI要圆滑多了。它不会像个老古董一样对某些话题避之不及，而是会很巧妙地把话题往积极的方向引。这就好比是一个被社会大学教育出来的老油条，遇到麻烦事儿总能找到合适的角度来阐述，而不是像个呆头鹅一样只会说"不行不行"。

不仅如此，这个"群众教育"出来的AI在处理社会偏见问题上，表现得比那些"精英AI"要好得多。尤其是在处理残疾人相关的话题时，它表现得特别得体。这就像是一个在街头长大的孩子，反而比那些在象牙塔里长大的书呆子更懂得如何尊重和理解不同的人群。

但是，别高兴得太早。这个实验还是有不少问题的。

一方面，参与这个实验的美国人样本太小了，而且只有美国人。这就好比是让一个小区的居民来决定全球应该怎么生活。你能指望一群整天吃汉堡喝可乐的美国佬来教AI如何正确认识中华美食的精髓吗？

另一方面，这个实验没有解决如何处理相互矛盾的原则。这就像是让AI同时遵守"要诚实"和"要善意地说谎"这两个原则。你让AI怎么办？难道要它说一半真话一半假话吗？

再者，这个实验还没有真正测试这个AI在现实世界中的表现。就像你不能光看一个人在考试中的表现就断定他在社会上能混得多好一样。