分享至
被称为“人工智能教父”的科学家之一Yoshua Bengio警告说，政府可能正在接近人工智能监管的转折点，类似于应对新冠肺炎。
蒙特利尔大学教授、2018年图灵奖获得者Bengio告诉法新社，随着人工智能系统越来越能够自主行动，“我们正在失去控制”。
他特别关注可以在没有持续人类监督的情况下运行的自主人工智能代理。Bengio警告说，他们最终可能会绕过网络安全防御，进入公司并操纵人们采取符合人工智能目标的行动。
他说，后果可能从严重的破坏，如人工智能系统关闭银行系统，到更极端的情况。他认为，日益强大的人工智能需要国际机构、条约和民主保障，在某些方面类似于为核武器创造的保障。
Bengio的非营利组织LawZero正在开发“科学家人工智能”，这是一个旨在检测和预防自主人工智能代理潜在有害行为的系统。
9月16日，加拿大和德国宣布提供高达3亿加元，约合2.16亿美元，用于支持LawZero在人工智能安全方面的工作。
Bengio发出警告之际，各国政府和科技公司正在争论应该对日益自主的人工智能系统进行多大程度的监督。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
