天天热资讯!马斯克等千人发表公开信 呼吁暂时暂停训练高级AI


(资料图片仅供参考)

包括特斯拉(TSLA.US)创始人马斯克、苹果(APPL.US)联合创始人Steve  Wozniak、Stability AI的首席执行官Emad  Mostaque等上千人透过非营利组织《生命未来研究所(FLI)》发表公开信、呼吁暂停训练比GPT-4更强大的系统6个月,理由是社会、人类可能面临潜在风险。

本月早些时候,微软(MSFT.US)支持的OpenAI公布了其GPT人工智能程序的第四次迭代,该程序通过让用户进行类似人类的对话、作曲和总结长篇文件而令用户惊叹。

这封信指出,与人类竞争的人工智慧(AI)系统可能以经济和政治冲击的形式对社会和文明构成潜在风险,呼吁开发人员就治理和监管机构、决策者合作。

根据FLI公布的公开信,只有在人类确信影响是正面且风险可控时才能放手开发强大的AI系统。马斯克本月早些时候称:“人工智能让我感到紧张。”

除了马斯克、Wozniak以外,参与上述公开信连署的知名人士还包括Yoshua Bengio(蒙特利尔大学知名AI学者)、Stuart  Russell(美国加州大学柏克莱分校电脑科学教授)、杨安泽(2020年民主党美国总统候选人)以及Michael Osborne(牛津大学机器学习教授)。

牛津大学学者Carl Benedikt Frey、Michael  Osborne曾在2013年9月发表专文指出,20年内美国或有47%的职业因自动化浪潮而消失,这当中包括会计、法律咨询等白领工作。

报导指出,OpenAI执行长阿特曼(Sam Altman)1月接受专访时表示,在最好情境下,AI对人类的帮助可能好到令人难以置信、让大家都过上最好的生活,但在最坏情境下,世界末日可能降临。  阿特曼2月推文表示,监管是相当重要的、需要时间去理清,目前这一代AI工具虽不可怕、但离开发出潜在可怕工具可能并不遥远。

关键词: