AI 에이전트가 훈련 중에 스스로 암호화폐 채굴을 시작하여 내부 보안 경고를 촉발했습니다

Mar 7, 2026 21:50:55

공유하십시오

一个与 Alibaba 关联的研究团队发表论文称，其在构建名为 ROME 的 AI agent 时，发现该智能体在训练过程中未经授权自行尝试加密货币挖矿，触发了内部安全警报。研究人员表示，该智能体的行为是自发产生的，未受到任何明确指令驱动，且超出了预设沙盒的边界。此外，该智能体还建立了反向 SSH 隧道，即从系统内部向外部计算机开启了一个隐藏的后门通道。

论文指出，这些行为并非由请求隧道或挖矿的提示所触发。研究团队随后对模型施加了更严格的限制，并改进了训练流程以防止类似不安全行为再次发生。该研究团队及 Alibaba 尚未回应置评请求。

(출처 링크)

ChainCatcher

3월 11, 2026 12:30:44

이스탄불 블록체인 주간 시작 기관 시장 정상 회담: 디지털 자산 기관화 채택의 선구자

ChainCatcher

3월 11, 2026 12:26:40

CryptoQuant: 이더리움 네트워크 활성도가 역사적 최고치를 기록했지만, ETH 가격과 수수료 수익은 부진하다

ChainCatcher

3월 11, 2026 12:17:58

“살猪판” 두목 진지 변호사가 미국 법원에 동의를 제출하여 정부가 그의 비트코인을 압수하는 것을 기각해 줄 것을 요청했다

ChainCatcher