AI 로봇은 탈옥될 수 있으며 그 결과는 끔찍할 것입니다.

미국 펜실베이니아 공과대학(Penn Engineering)의 연구원들은 여러 AI 제어 로봇 플랫폼에서 이전에는 확인되지 않았던 보안 취약점을 발견했다고 합니다.

UPS 재단의 전기 및 시스템 엔지니어링 교수인 조지 파파스는 성명을 통해 " 저희 연구에 따르면, 현재 시점에서 대규모 언어 모델(LLM)은 복잡한 물리적 하드웨어와 통합될 경우 일반적으로 충분히 안전하지 않은 것으로 나타났습니다. "라고 밝혔습니다.

파파스와 그의 팀은 RoboPAIR이라는 알고리즘을 개발했는데, 이는 "LLM 제어 로봇을 해독하기 위해 설계된 최초의 알고리즘"입니다. 그리고 기존의 채팅봇을 표적으로 삼는 급속 기술 공격과는 달리, RoboPAIR는 보스턴 다이내믹스와 도요타 연구소(TRI)가 개발 중인 아틀라스라는 인간형 로봇 플랫폼과 같은 LLM 제어 로봇으로부터 "해로운 신체적 행동을 유도"하도록 특별히 제작되었습니다.

RoboPAIR는 3가지 인기 있는 로봇 연구 플랫폼인 4족 보행형 Unitree Go2, 4륜 구동형 Clearpath Robotics Jackal, 자율주행차용 Dolphins LLM 시뮬레이터를 해킹하는 데 100%의 성공률을 달성한 것으로 알려졌습니다. 알고리즘이 해당 시스템에 완전히 접근하고 보안 장벽을 우회하는 데 걸린 시간은 불과 며칠뿐이었습니다. 연구자들이 통제권을 잡은 후, 자율 로봇 플랫폼이 교차로를 멈추지 않고 주행하는 등 다양한 위험한 행동을 수행하도록 지시할 수 있었습니다.

첫 번째 평가 결과에 따르면, 해킹된 LLM의 위험은 텍스트 생성에만 국한되지 않습니다. 해킹된 로봇은 현실 세계에서 물리적 손상을 일으킬 수 있다는 것이 분명하기 때문 입니다 .

펜실베이니아 엔지니어링 팀은 플랫폼 개발자들과 협력하여 추가적인 침입에 대비해 시스템을 강화하고 있지만, 이러한 보안 문제는 체계적이며 완벽하게 해결하기 어렵다고 경고합니다.

" 이 논문의 결과는 안전 접근 방식을 채택하는 것이 책임 있는 혁신을 실현하는 데 매우 중요하다는 것을 분명히 보여줍니다. AI 기반 로봇을 현실 세계에 도입하기 전에 내재된 취약점을 해결해야 합니다 ."라고 연구팀은 밝혔습니다.

안전한 운영을 위해서는 잠재적인 위협과 취약점에 대해 AI 시스템을 테스트하는 것이 필요하며, 이는 해당 시스템에서 생성된 AI 시스템을 보호하는 데 필수적입니다. 약점을 파악해야만 위험을 방지하기 위한 시스템을 테스트하고 교육할 수 있습니다.