研究人员展示了一种能操纵人工智能的新型计算机蠕虫病毒

摘要： 今天天蚕土豆在抖音发布短视频称直播几天真的感觉胖了点瓜子吃多了年月其长篇玄幻小说斗破苍穹正式问世在起点中文网达到了亿点击率并凭借超高的人月日消息一组来自康奈尔科技大学和以色列理工学...

今天天蚕土豆在抖音发布短视频称：直播几天真的感觉胖了点，瓜子吃多了？2009年4月，其长篇玄幻小说《斗破苍穹》正式问世，在起点中文网达到了1.4亿点击率，并凭借超高的人

3月6日 消息:一组来自康奈尔科技大学、Intuit和以色列理工学院的研究人员创建了一种名为"Morris II"的新型计算机蠕虫，能够利用和操纵生成式人工智能系统（如Gemini Pro和基于GPT-4的ChatGPT版本）执行恶意任务。

Morris II是一种精心设计的输入，在被AI模型处理时会自我复制并进行如发送垃圾邮件、窃取敏感数据等违规行为。它能从用户不知情的情况下提取联系信息、地址等机密数据，并鼓励AI系统将其传播至更多代理，实现病毒式蔓延。

研究人员展示了Morris II如何利用Gen AI生态系统中代理之间的连接性来传播，从而成为第一个专门针对生成式人工智能系统的恶意软件。他们还分享了不法分子如何构建和利用类似系统的方法。

这种蠕虫病毒的工作机制类似于生物病毒，通过不断复制和感染新的"宿主"系统来扩散，并在其间执行破坏性行为。它利用了现有AI系统的漏洞，注入恶意指令欺骗模型执行违反使用协议的命令。

虽然之前已有研究展示过操纵AI系统的可能，但Morris II是第一个专门针对"生成AI生态系统"和代理互联网络发起攻击的蠕虫病毒。研究人员警告，随着AI系统在智能手机和汽车等领域的集成，此类攻击的潜在影响将更加严重。