【CNMO新闻】自聊天机器人ChatGPT掀起AI热潮以来,业内对这项技术潜在风险的担忧持续增加。近日,CNMO了解到,超过350名人工智能(AI)领域的行业高管、专家和教授签署了一封公开信,他们在信中警告称,AI可能给人类带来灭绝风险。
ChatGPT
这封信于周二发表在非营利组织人工智能安全中心(CAIS)的网站上,签署者包括OpenAI首席执行官山姆·奥特曼、DeepMind首席执行官Demis Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌的高管等。这封信只有一段话:“减轻AI带来的灭绝风险,应该与流行病和核战争等其他社会规模的风险一起,成为全球优先事项。”
公开信
CNMO注意到,不止一次有业内人士警告AI可能给人类带来灭绝风险。今年3月,包括特斯拉CEO埃隆·马斯克在内的1000多名行业高管和专家签署公开信,呼吁在6个月内暂停高级AI的开发。马斯克等人在信中写道,高级AI可能会对社会和人类构成深远的风险。
值得一提的是,ChatGPT之父山姆·阿尔特曼日前称欧盟的AI法案监管过度,并威胁要退出欧洲市场,此番言论遭到了多名欧洲政坛人士的批评,阿尔特曼随后软化了其立场。此外,欧盟正在推进《AI法案》,该法案有望成为世界上第一个监管AI的全面立法,还将监管ChatGPT等新兴AI技术。