人工智能（AI）领域正迎来前所未有的繁荣时期。然而，其潜在的风险也开始引起监管机构的关注和审视。

美财长耶伦警告：AI带来潜在“重大风险”

美国时间6月6日，耶伦出席了金融稳定监督委员会（FSOC）有关人工智能与金融稳定的会议，并在开幕致辞中警告金融机构使用人工智能技术的潜在风险。

耶伦在演讲中透露，人工智能与金融稳定是拜登政府高度重视的话题，“在未来几年只会变得更加重要”。并警告称，金融机构使用AI在促进机遇的同时伴随着“重大风险”（significant risks）：

其中风险可能来自于 “人工智能模型的复杂性和不透明性”。同时“提供数据和云服务的供应商集中度过高” 所以很有可能会 “能延续现有的偏见或引入新的金融决策偏见”。

同时，如果只有少数几家公司提供AI模型，一旦其中一家出现问题，许多金融机构可能受到波及。

业内人士的警告

美国时间6月4日，13位来自OpenAI和Google的现任及前任员工联合发布了一封公开信。

这些员工在信中表达了对人工智能技术潜在风险的严重担忧，并呼吁相关公司采取更加透明和负责任的措施来应对这些风险。此信被多位知名人士联名背书，其中包括被誉为“人工智能教父”的 Geoffrey Hinton (杰弗里辛顿）和图灵奖获得者 Yoshua Bengio (约书亚本吉奥）。

以上图片来自公开信的网页 (righttowarn.ai)

他们担心，人工智能公司由于强烈的经济动机，可能会避免接受有效的监督。他们认为，仅靠现有的公司治理结构不足以解决这一问题。然而，这些公司目前对与政府分享信息的义务很弱，且完全没有义务与公众分享。签署者们认为，不能完全依赖这些公司自愿分享信息，并呼吁加大监管机制。

OpenAI前员工Daniel Kokatajlo透露，离职时他被要求签署一份“封口协议” —— 禁止他发表任何批评公司的话，否则将失去已归属的股权。然而，他在深思熟虑后，依旧决定放弃签署协议。

另一位OpenAI前员工 Leopold Aschenbrenner透露被开除的原因：他给几位董事会成员分享了一份OpenAI安全备忘录，结果导致OpenAI管理层不满。 

联邦监督局对英伟达、OpenAI、微软开展调查

在耶伦讲话同一天，美国联邦贸易委员会（FTC）和司法部宣布将对微软、OpenAI和英伟达展开反垄断调查。其中FTC将主导对微软和OpenAI的调查，而司法部将专注于英伟达。

据了解，这是美国监管方面对AI技术审查升级的明显迹象。早在去年，美国司法已经对 OpenAI 展开调查，称其违反了消费者保护法，将个人声誉和数据置于风险之中。

美国司法部反垄断部门负责人Jonathan Kanter（乔纳森-坎特）告诉金融时报，监管机构必须迅速采取行动，确保强大的科技公司不会控制市场。

文章来源：活报告公众号