周二，数十位人工智能（AI）行业领袖、学者，以及一些知名人士联名呼吁，降低由人工智能带来的全球灭绝风险。他们在一份简洁声明中主张，AI导致的灭绝性事件的威胁应被列为全球首要任务。


声明强调了社会对未受抑制的人工智能所带来的潜在危险的广泛担忧。尽管AI专家表示，社会离开发出科幻小说中所描述的那种通用人工智能还有很长的路要走，今天的尖端聊天机器人主要还是根据它们接受的训练数据来复制模式，而并非自我思考，但是，对AI行业的大量炒作和投资已经引发了对AI时代初期进行监管的呼声，以防止任何重大事故的发生。



图片来源于网络


此声明的发布，是在OpenAI的聊天机器人ChatGPT取得病毒式成功后发出的，该成功事件加剧了科技行业对人工智能的竞争态势。对此，越来越多的立法者、倡导团体和科技内部人士对新一代AI聊天机器人传播误导信息和取代工作岗位的可能性提出了警告。


辛顿的开创性工作对塑造今日的AI系统起到了关键作用，他曾向CNN表示，在“突然”意识到“这些东西变得比我们更聪明”之后，他决定离开谷歌，并公开对这项技术发出警告。


AI安全中心的主任Dan Hendrycks在周二的推文中指出，由剑桥大学AI教授David Kreuger首先提出的这份声明，并不排除社会从其他方面应对AI风险，例如算法偏见或误导信息。



图片来源于网络


Hendrycks将周二发布的声明与原子科学家对他们所创造的技术的警告相比较，他提出，我们必须对我们创造出来的技术持续发出警告。周二的声明是一个醒目的提醒，提示我们需要对可能的人工智能风险持有清醒的认识，并在创新和应用的同时，不忘赋予其适当的监管，以避免可能带来的严重后果。


信息来源: CNN