纽约大学心理学和神经科学荣誉教授马库斯(Gary Marcus)(图)
(旧金山法新电)自六个月前能吟诗作对的聊天机器人ChatGPT横空出世以来,人工智能领域的专家就不断对人工智能(AI)的快速发展和运用提出警告,但美国一名心理学家认为,关于人工智能可能导致人类灭绝的说法有点“夸大”了。
纽约大学心理学和神经科学荣誉教授马库斯(Gary Marcus)受访时说:“我个人并不那么担心会带来灭绝的风险,至少目前是这样,因为情况并不那么具体。我担心的是一个更普遍的问题,那就是我们正在打造我们无法妥善控制的AI系统,我认为这会带来很大风险,(但)可能与生存无关。”
早在ChatGPT面世之前,马库斯就已经设计出自己的第一套AI程式,他在高中时就创造了一个拉丁文翻译成英文的软体。之后,他在专研儿童心理学多年后,创立了机器学公司 Geometric Intelligence,该公司后来被Uber收购。
马库斯:AI更可能制造混乱及影响民主
今年3月,未来生命研究所公布一封公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少六个月。上周,包括推出ChatGPT的OpenAI总裁奥尔特曼在内的商业领袖和专家发布仅有一句话的声明,呼吁全球领袖致力降低AI技术可能带来“灭绝的风险”。然而马库斯并未签署声明,引起轰动。
马库斯说:“如果你真的认为AI能导致生存的风险,为什么还要研发AI呢?这是很合理的疑问。”
他认为,与其把焦点放在人类灭绝等遥远的情境,社会更应该把注意力放在真正的危险上。他说:“人们可能会试图透过使用AI来造成各种混乱,试图操纵市场,然后归咎于俄罗斯人,而实际上俄罗斯人并没有涉及。这可能会升级,演变成核战之类的,所以我想有些情况会蛮严重的。至于人类灭绝?我就不知道了。”
短期内,马库斯担心民主。他指,生成式AI软件能生产大量以假乱真的照片和视频。结果,选举将由更善于散布虚假信息的人赢得,这些人可能会改变规则,使民主进程受阻。