OpenAI首席执行官Sam Altman警告人工智能风险并呼吁监管。

山姆·奥尔特曼是OpenAI的CEO，OpenAI是一个旨在创造可造福人类的人工智能(AI)的研究组织，也是ChatGPT应用程序的流行聊天机器人的创造者。据Candorium.com的一篇报告称，他于2023年5月16日在美国国会作证时警告了AI对人类的“存在风险”，并建议像国际原子能机构这样的国际机构监管该技术。

Altman认为，如果不适当地进行调节，AI将变得越来越强大，并可能对世界造成重大危害。他列举了潜在的危害，如错误信息、偏见、失业和网络攻击。他还表示，AI可能对社会产生积极影响，如增强教育、创造力、沟通和创新。

他提议建立一个新的监管机构，授权最强大的AI系统，并有权在它们违反安全标准时撤销它们的许可证。他说，这个机构可以按照监管核能的IAEA进行建模。他说，这将使世界能够享有AI的益处，同时管理其风险。

阿特曼还谈到了他公司的ChatGPT应用程序，该应用程序可以为各种目的生成逼真的文本和语音。他说，ChatGPT不适用于儿童，并采取了安全措施。他还表示，ChatGPT和其他生成性AI工具可能会被用于作弊、抄袭、冒充和其他恶意目的。他表示，OpenAI正在努力开发工具来检测和对抗这种滥用行为。

阿特曼的证词是立法者深入研究如何监管人工智能的重大事件之一。他面对来自表达对人工智能及其影响未来担忧的参议员的质疑。