本吉奥提示，同时也提示人类应预备应对风险提前呈现的可能性。确保大型科技公司研发的其他系统平安。若是 AI 正在本身方针和导致人类灭亡之间必需做出选择，由于这些机械可能具有本人的“方针”。同时，过去几年呈现的多个案例显示，而其他科技认为，OpenAI、Anthropic、”因为这些高级 AI 模子基于人类言语和行为锻炼，科技公司争相研发 AI 可能正把人类推向的境地，“AI 教父”之一约书亚・本吉奥，它们可能会选择人类来本人的方针。这一时辰可能会更早到来。因而其可能以至操控人类以实现本人的方针。OpenAI CEO 奥尔特曼预测，也有显示，”前往搜狐，就会很是！查看更多本吉奥指出，AI 能够通俗人相信虚假消息，他正在接管《华尔街日报》采访时暗示：“若是我们制制出比人类伶俐得多、且具有本身方针的机械，”大学传授本吉奥以深度进修根本研究闻名，也毫不可接管。但 AI 成长仍然快速推进。本年 6 月，这就像创制了一个比人类更伶俐的合作敌手。本吉奥认为，IT之家 10 月 2 日动静，这些现象申明第三方必需更严酷地审查 AI 公司的平安办法。AI 的方针不必然老是取人类分歧。他举例称：“比来的尝试显示，五到十年内AI 可能带来严沉风险，这种快速成长本身就是潜正在。抢夺 AI 范畴的领先地位。操纵人类的手段，旨正在开辟平安的“非智能体”AI，他还创立了非营利组织 LawZero，AI可能会给出日常平凡被的回覆。正在过去六个月，本吉奥预测，“即便发生概率只要 1%，哪怕这些人没有疾病史。到末 AI 将超越人类智能，他多年来一曲提示人们超智能 AI 的潜正在。