译者丨ChatGPT

ChatGPT之风愈演愈烈，华盛顿大学语言学家EmilyM.Bender公开反对让大模型（LLM）过度介入人们的生活。

谷歌和亚马逊在论文中提到，LLM已经具有了思维链条（ChainofThought，CoT)，和自发性地结构涌现（Emergence），也就是说，LLM开始学会了人类的“慢思考”思维模式，学会了基于逻辑推理的回答，而不再是单单基于直觉的回答。

作为一名语言学家，Bender注意到了LLM“权力扩张”的危险性，已经开始有人相信——“我们应该放弃「人类」在「物种」上如此重要的想法”。

这种想法背后隐含着的，实际上是LLM高度发展可能带来的一个AI伦理问题：如果有一天，我们造出了人类无法分辨的聊天机器人，那么这个机器人是否享有“人权”？

Bender对此表示深刻的担忧。虽然地球上的物质都很重要，但是从语言模型到存在危机的路程，实在太短。

地球上懂得核武器的人士少之又少，不同于核武器，LLM影响力巨大，却还没有人论证清楚，它将会给人类社会带来怎样的影响。

ChatGPT对我们生活的影响已经显现，同时，也有不少人像Bender一样注意到了ChatGPT带来的伦理难题，已经有多家学校、期刊、学术会议禁止使用ChatGPT，也有一部分企业加入了这一阵营。

Bender知道自己无法与万亿游戏抗衡，但是她仍在提问，LLM究竟为谁服务，她希望在失控之日来临之前，人们能够尽快认清自己的位置。

存在就是正义。

就像她说的，只要是人类，就应该得到道德上的尊重。

本文原载于Nymag.