**划重点:**

1. AI公司在发展强大的人工智能系统时，应将独立成员纳入董事会，代表“社会利益”。

2. Yoshua专家 Bengio表示，随着技术的快速进步，人工智能公司需要公众成员的监督来实现“民主治理”。

3. Bengio关注OpenAI的管理动荡，呼吁实现“适当的保护措施”，关注人工智能的安全和发展速度。

站长之家(ChinaZ.com) 12月6日 消息:人工智能（AI）2018年图灵奖得主Yoshua是现代技术创始人之一 Bengio教授表示，正在发展强大人工智能系统的公司应在其董事会聘请代表“社会利益”的独立成员。

Bengio在接受《卫报》采访时表示，随着技术的快速发展，人工智能公司需要公众成员的监督，以实现“民主治理”

注：图片由AI生成，图片授权服务提供商Midjourney

他关注OpenAI(ChatGPT的开发者)管理层的变化，并指出“民主过程”对监控人工智能领域的发展至关重要。Sam，OpenAI首席执行官 在Altman辞职复职等管理动荡之后，Bengio认为需要一种能够及时监控AI发展的方式。

三月份，包括Elon在内的Bengio 数千名高科技人士，包括Musk，已经签署了一封公开信，呼吁暂停最强对于大型人工智能系统的开发，他表示担忧：“我担心的是，没有减速。在缺乏适当的保护措施的情况下，我们将迅速推进，更加注重与其他竞争对手的竞争和赢得竞争，而不是保护公共安全。”

除了OpenAI管理层的变化外，Bengio还表达了对政府与AI公司在全球AI安全峰会上达成的自愿协议的担忧。他指出，这一过程更有利于公司，因为它要求政府找出模型的问题，而不是证明其技术是安全的。

Bengio强调，他更支持一种模式，即公司有责任向监管机构证明其系统是可信的，类似于制药公司对其产品的临床研究要求。“这不是政府的临床研究，而是制药业，”他说。然后，他们必须提供科学证据，如统计评估，以证明药物不会有毒的可能性很高。因此，政府在审查报告和流程后表示，是的，你可以继续商业化。”

Bengio作为Bletchley峰会的参与者，被宣布为首次“人工智能科学现状”报告主席预计将在明年5月韩国人工智能峰会前发布。他希望该报告每六个月发表一次，重点关注人工智能的安全。

Bengio给出了一个可能逃避人类控制的系统出现的时间表，估计是5到20年。他强调，政府应该在这1%的可能性下保护公众免受潜在危险，并欢迎美国总统乔·拜登关于人工智能的行政命令，认为这是促进行业“更好监管”的“非常好的事情”。

Bengio对人工智能治理提出了严肃的看法，强调了监管的必要性，以确保技术发展符合社会利益，不会对公众构成潜在威胁。