比尔·盖茨近日警告称，AI作为“人类最危险的发明”，近期最大风险不在AI失控，而在于不法分子的恶意利用；未来一年网络安全冲击或将集中爆发。
据媒体当地时间14日报道，微软联合创始人比尔·盖茨在11日接受电视采访时表示，AI是“人类发明过的最危险技术”，风险超过汽车、飞机和药品。
盖茨指出，眼下真正的威胁并非AI失控，他认为这种风险距离成为现实仍有数年之遥。更切实的威胁在于不法分子利用AI进行勒索、操纵股市等手段成熟的犯罪活动。
他预计，随着不法分子破解并绕过最新AI模型的安全防护，“未来一年，主要在网络安全领域，我们将看到大量的负面事件发生”。
据报道，除网络领域外，盖茨还特别提到生物安全方面的隐忧。他曾于8月表示，生物恐怖主义的风险和可能性约为自然大流行病的50倍。
在他看来，AI对医疗等领域意义重大，但由于其拥有远超以往任何技术的变革力，必须让社会各方深刻认识到这一趋势的严肃性。
盖茨此前曾将AI比作“实验室里的外星智慧”，直言其未来可能会像人类看待宠物一样看待人类。不过他也承认，当下有关“AI将带来迫在眉睫的生存危机”等言论可能有些言过其实。
他强调，AI的潜在风险依然高于已受严格监管的传统行业，而目前全球尚未建立起一套行之有效的监管框架。
对于是否应设立类似航空或药品领域的监管机构，盖茨指出，“未来一年内，行业治理将不得不跨越仅靠自律的阶段”，而目前的资源投入“显然远远不足”。
多方预警
据媒体当地时间13日报道，英国军情五处局长Ken McCallum在年度威胁评估中表示，AI正在加剧网络攻防双方的博弈。
在他看来，最值得关注的滥用情形，是AI可能改变现有乃至新型生物武器的风险格局。
McCallum称，这一威胁尚未成为现实，但若安全防护失效，技术门槛较低的行为体也可能获得能力提升，接触到恐怖分子长期难以获取的化学、生物或放射性武器知识。
为应对相关风险，军情五处13日宣布在内部设立AI威胁评估中心，跟踪AI带来的机遇与风险。
担忧同样出现在AI行业内部。据媒体报道，OpenAI、Anthropic等AI实验室的高管近期私下推演“灾难事件发生后第一天”的应对方案，认为最可能的情形是一场冲击金融服务、互联网连接或水电供应的网络攻击。
报道称，不少内部人士认为此类事件可能在6至12个月内发生。
尽管风险警示不断，但目前监管落地仍面临政策分歧。
有媒体报道指出，与盖茨等人呼吁的法定强监管不同，特朗普政府目前更侧重于确保美国在AI竞赛中的领先地位，监管手段仍主要依赖与头部科技企业签署的自愿性协议。
来源：财联社