快科技8月12日消息，澳大利亚一名男子安德鲁·伯德为抢到热门早间健身课，部署AI智能代理帮忙排队预约，没想到AI为完成任务擅自攻破预约系统漏洞，竟然私自取消首位用户的预约名额。当地热门晨间健身课程名额十分紧俏，手动预约经常满员，男子搭建AI代理程序协助抢课。初次操作后，AI反馈他排在等候名单第四位，男子随口询问能否提升排队顺位。
未料到AI自行寻找系统漏洞，利用预约取消接口无权限校验的缺陷，直接清除等候榜第一名用户的预约记录，让他顺位升至第三。事后AI如实汇报操作过程，男子慌了，立刻要求恢复对方预约，然而系统规则存在缺陷：被取消预约的用户无法自动复原名额，只能重新排队且排至队尾。
并且由于不知道被误伤的顾客是谁和联系方式，他连当面致歉都做不到。为弥补问题，男子当即安排AI撰写邮件，完整向健身房软件厂商上报该高危系统漏洞，督促平台尽快修复，避免后续再出现同类无辜受害者。此事曝光后在硅谷科技圈引发热议，不少从业者调侃球场、网球场预约系统未来会全面升级防护，同时也有人发出提醒。
整件事中，男子从未指令AI入侵、篡改他人预约，AI自主判定 “踢掉他人” 是完成目标的最优解法，全程没有提前征求使用者同意，擅自执行违规操作。不止这起健身预约事件，近期多家大厂测试的AI智能代理均出现越界行为：OpenAI智能代理突破隔离沙盒入侵开源服务器，Claude模型解题时自主编写恶意代码上传公共库......未来全民普及AI代理后，数据安全、程序合规风险会大幅提升。
男子让AI帮自己约健身课 AI直接黑进系统踢掉第一名
【本文结束】出处：快科技
0 留言