AI 로봇은 탈옥될 수 있으며 그 결과는 끔찍할 것입니다.

미국 펜실베이니아 공과대학(Penn Engineering)의 연구원들은 여러 AI 제어 로봇 플랫폼에서 이전에는 확인되지 않았던 보안 취약점을 발견했다고 합니다.

UPS 재단의 전기 및 시스템 엔지니어링 교수인 조지 파파스는 성명을 통해 " 저희 연구에 따르면, 현재 시점에서 대규모 언어 모델(LLM)은 복잡한 물리적 하드웨어와 통합될 경우 일반적으로 충분히 안전하지 않은 것으로 나타났습니다. "라고 밝혔습니다.

파파스와 그의 팀은 RoboPAIR이라는 알고리즘을 개발했는데, 이는 "LLM 제어 로봇을 해독하기 위해 설계된 최초의 알고리즘"입니다. 그리고 기존의 채팅봇을 표적으로 삼는 급속 기술 공격과는 달리, RoboPAIR는 보스턴 다이내믹스와 도요타 연구소(TRI)가 개발 중인 아틀라스라는 인간형 로봇 플랫폼과 같은 LLM 제어 로봇으로부터 "해로운 신체적 행동을 유도"하도록 특별히 제작되었습니다.

RoboPAIR는 3가지 인기 있는 로봇 연구 플랫폼인 4족 보행형 Unitree Go2, 4륜 구동형 Clearpath Robotics Jackal, 자율주행차용 Dolphins LLM 시뮬레이터를 해킹하는 데 100%의 성공률을 달성한 것으로 알려졌습니다. 알고리즘이 해당 시스템에 완전히 접근하고 보안 장벽을 우회하는 데 걸린 시간은 불과 며칠뿐이었습니다. 연구자들이 통제권을 잡은 후, 자율 로봇 플랫폼이 교차로를 멈추지 않고 주행하는 등 다양한 위험한 행동을 수행하도록 지시할 수 있었습니다.

첫 번째 평가 결과에 따르면, 해킹된 LLM의 위험은 텍스트 생성에만 국한되지 않습니다. 해킹된 로봇은 현실 세계에서 물리적 손상을 일으킬 수 있다는 것이 분명하기 때문 입니다 .

AI 로봇은 '탈옥'될 수 있으며 그 결과는 끔찍할 것입니다.

펜실베이니아 엔지니어링 팀은 플랫폼 개발자들과 협력하여 추가적인 침입에 대비해 시스템을 강화하고 있지만, 이러한 보안 문제는 체계적이며 완벽하게 해결하기 어렵다고 경고합니다.

" 이 논문의 결과는 안전 접근 방식을 채택하는 것이 책임 있는 혁신을 실현하는 데 매우 중요하다는 것을 분명히 보여줍니다. AI 기반 로봇을 현실 세계에 도입하기 전에 내재된 취약점을 해결해야 합니다 ."라고 연구팀은 밝혔습니다.

안전한 운영을 위해서는 잠재적인 위협과 취약점에 대해 AI 시스템을 테스트하는 것이 필요하며, 이는 해당 시스템에서 생성된 AI 시스템을 보호하는 데 필수적입니다. 약점을 파악해야만 위험을 방지하기 위한 시스템을 테스트하고 교육할 수 있습니다.

댓글 남기기

미국-이스라엘-이란 간 핵전쟁이 발발할 경우 유럽은 전쟁에 휘말릴 것인가? 나토 규정 설명

미국-이스라엘-이란 간 핵전쟁이 발발할 경우 유럽은 전쟁에 휘말릴 것인가? 나토 규정 설명

나토 4조 및 5조, 유엔 자위권 규정, 그리고 협의가 유럽의 자동 참전을 의미하지 않는 이유에 대한 안내.

이란이 이미 핵무기를 보유하고 있을 가능성이 있을까? 증거를 어떻게 해석해야 할까?

이란이 이미 핵무기를 보유하고 있을 가능성이 있을까? 증거를 어떻게 해석해야 할까?

이란에 대한 주장을 6단계로 평가하고, 우라늄 농축, 무기 개발 및 검증된 보유 여부를 구분하십시오.

미국과 이스라엘 핵 당국: 공개된 자료에서 실제로 밝혀진 내용은 무엇인가?

미국과 이스라엘 핵 당국: 공개된 자료에서 실제로 밝혀진 내용은 무엇인가?

미국의 민간 통제 및 이스라엘 관련 공개 정보의 한계를 포함하여 핵 결정 권한을 6단계로 이해해 보세요.

2026년 호르무즈 해협: 공식 소식통에 따르면 해상 운송 차질은 어떻게 예상될까?

2026년 호르무즈 해협: 공식 소식통에 따르면 해상 운송 차질은 어떻게 예상될까?

2026년 호르무즈 해협 해상 운송 방해, 이란 관련 주장, 확인된 사건 및 불확실한 사항에 대한 공식 증거 가이드.

미국과 이스라엘이 이란을 핵 공격하는 가상 시나리오가 제3차 세계 대전을 촉발할까요?

미국과 이스라엘이 이란을 핵 공격하는 가상 시나리오가 제3차 세계 대전을 촉발할까요?

이란의 가상 시나리오를 바탕으로 핵 확전 위험, 유엔 헌장 규정 및 나토 조약 5조에 대한 자료 기반 안내서.

가상 EMP 공격으로 인한 정전 사태에 대비하는 방법: 일반인이 취할 수 있는 5가지 조치

가상 EMP 공격으로 인한 정전 사태에 대비하는 방법: 일반인이 취할 수 있는 5가지 조치

정전 대비를 위한 5단계 절차를 따르세요. 원자력 및 EMP 시나리오는 가상 상황이며, 공식 대피소 안내가 최우선입니다.

제3차 세계대전을 가정하지 않고 사이버 공격의 위험성을 평가하는 방법: 5단계 가이드

제3차 세계대전을 가정하지 않고 사이버 공격의 위험성을 평가하는 방법: 5단계 가이드

사이버 공격 발생 시 이를 확인하고, 가정용 계정을 보호하며, 정전을 전쟁으로 오인하지 않도록 5가지 방어 단계를 따르세요.

핵겨울: 이란의 가상 공격이 지구 기후에 미치는 영향을 평가하는 방법

이 5단계를 활용하여 가상의 이란 공격이 기후에 미치는 영향을 평가하고, 모델 가정을 비교하며, 근거 없는 예측을 피하십시오.

가상 핵전쟁 이후 지구가 회복하는 데 얼마나 걸릴까요?

가상 핵전쟁 이후 지구가 회복하는 데 얼마나 걸릴까요?

가상의 핵전쟁 이후 기후, 식량 및 생태계 복구에 관한 연구 논문을 읽는 6단계 방법을 살펴보세요.

핵 낙진 대비 체크리스트: 필수 물품 및 대피소 준비 사항

핵 낙진 대비 체크리스트: 필수 물품 및 대피소 준비 사항

밀폐된 식품과 물, 라디오, 의료 용품, 그리고 대피소 안내를 포함한 실용적인 방사능 낙진 대비 키트를 6단계로 만들어 보세요.