2023-06-07 09:24:29
AI风险堪比核能！“ChatGPT之父”：应建立国际组织来监督AI
当地时间周二（6月6日），“ChatGPT之父”、OpenAI首席执行官山姆·奥特曼警告称，人工智能（AI）对人类构成了生存风险，他建议由类似于国际原子能机构（IAEA）的组织来监督AI。
OpenAI是聊天机器人ChatGPT的开发公司，旗下拥有大语言模型GPT-3以及多模态模型GPT-4等产品。
ChatGPT于去年11月发布，上线两月便拥有了1亿月活跃用户，成为历史上增长最快的消费者应用程序。今年3月，OpenAI网站的访问人数已达到8.47亿。机构预计，OpenAI将很快成为有史以来月活用户最快达到10亿的网站。
ChatGPT的横空出世引发了科技公司对AI的狂热追捧，同时也加剧了人们对AI失控的担忧。
奥特曼周二表示：“世界面临的挑战是，我们将如何管理这些风险，并确保我们仍然能够享受到这些巨大的好处。没人想毁灭世界。”
奥特曼提议设立一个类似于IAEA的组织来监督AI。IAEA成立于1957年，是致力于和平发展核能的独立政府间国际组织。
奥特曼指出，IAEA是一个典范，面对一项非常危险的技术，在设置护栏后，能同时兼顾机遇和安全。
奥特曼在访问阿联酋期间发表了上述言论，作为OpenAI的联合创始人之一，他近来访问了全球多个国家，讨论关于AI的发展前景。
上月底，包括奥特曼在内的超过350名领域的行业高管、专家和教授签署了一封公开信，他们在信中警告称，AI可能给人类带来灭绝风险。
这封信只有一段话：“减轻AI带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球优先事项。”
苹果CEO：Vision Pro是最先进的电子设备 正在密切关注ChatGPT
苹果首席执行官蒂姆·库克最新表示，他正在使用人工智能聊天机器人ChatGPT，并对该工具的“独特应用”感到兴奋。
在周二接受媒体采访时，库克告诉记者，虽然苹果显然已将人工智能集成到其产品中，但普通大众可能并不一定认为这些功能是人工智能，并补充说苹果公司正在密切关注ChatGPT。
库克表示，大语言模型驱动的聊天机器人，如OpenAI的ChatGPT和谷歌的Bard，展示出了“巨大的前景”，但也有可能出现偏见、错误信息等问题，在某些情况下可能会导致更糟糕的问题。
库克还提出了他对人工智能监管和护栏的看法，他说这些是必要的，但人工智能是非常强大的，技术发展很快。
库克强调：“如果你往前看，你就会发现它是如此之强大，以至于相关公司不得不自己监管自己。监管机构将很难跟上这方面的进展，因为它发展得太快了，所以我认为公司也有责任监管自己。”
上个月，科技界高管和科学家对人工智能敲响警钟，他们在一份联合声明中表示，这项技术带来的灭绝风险堪比疫情和核战。
他们表示，他们希望就人工智能最严重的风险展开讨论。OpenAI的首席执行官Sam Altman和微软首席技术官Kevin Scott也签署了这份声明。
不过，库克讲话的重点还是放在了宣传自家产品上面，此前一天，苹果公司发布了Vision Pro头戴式设备，这是该公司十年来的首款重要新产品。
库克周二表示，Vision Pro是目前最先进的电子设备，这款产品标志着苹果公司的一个转折点。
库克指出：“我们很早以前就开始研究增强现实，因为我们认为这是一个伟大的想法，是一项意义深远的技术。这是下一个篇章，也是一个巨大的飞跃。”
库克解释说：“你可以沉浸在电影、电视节目、体育运动中，感觉自己身临其境。你可以拍摄照片和视频，享受这些，然后把记忆带回现实。”
