익숙한 고무줄을 만드는 과정이 이렇게 복잡하고 정교할 줄 누가 상상했겠는가?
작은 고무줄은 간단해 보이지만, 실제로 만드는 과정은 생각보다 복잡합니다. 고무줄을 만드는 전체 과정은 다음과 같습니다.
AI 로봇은 탈옥될 수 있으며 그 결과는 끔찍할 것입니다.
미국 펜실베이니아 공과대학(Penn Engineering)의 연구원들은 여러 AI 제어 로봇 플랫폼에서 이전에는 확인되지 않았던 보안 취약점을 발견했다고 합니다.
UPS 재단의 전기 및 시스템 엔지니어링 교수인 조지 파파스는 성명을 통해 " 저희 연구에 따르면, 현재 시점에서 대규모 언어 모델(LLM)은 복잡한 물리적 하드웨어와 통합될 경우 일반적으로 충분히 안전하지 않은 것으로 나타났습니다. "라고 밝혔습니다.
파파스와 그의 팀은 RoboPAIR이라는 알고리즘을 개발했는데, 이는 "LLM 제어 로봇을 해독하기 위해 설계된 최초의 알고리즘"입니다. 그리고 기존의 채팅봇을 표적으로 삼는 급속 기술 공격과는 달리, RoboPAIR는 보스턴 다이내믹스와 도요타 연구소(TRI)가 개발 중인 아틀라스라는 인간형 로봇 플랫폼과 같은 LLM 제어 로봇으로부터 "해로운 신체적 행동을 유도"하도록 특별히 제작되었습니다.
RoboPAIR는 3가지 인기 있는 로봇 연구 플랫폼인 4족 보행형 Unitree Go2, 4륜 구동형 Clearpath Robotics Jackal, 자율주행차용 Dolphins LLM 시뮬레이터를 해킹하는 데 100%의 성공률을 달성한 것으로 알려졌습니다. 알고리즘이 해당 시스템에 완전히 접근하고 보안 장벽을 우회하는 데 걸린 시간은 불과 며칠뿐이었습니다. 연구자들이 통제권을 잡은 후, 자율 로봇 플랫폼이 교차로를 멈추지 않고 주행하는 등 다양한 위험한 행동을 수행하도록 지시할 수 있었습니다.
첫 번째 평가 결과에 따르면, 해킹된 LLM의 위험은 텍스트 생성에만 국한되지 않습니다. 해킹된 로봇은 현실 세계에서 물리적 손상을 일으킬 수 있다는 것이 분명하기 때문 입니다 .
펜실베이니아 엔지니어링 팀은 플랫폼 개발자들과 협력하여 추가적인 침입에 대비해 시스템을 강화하고 있지만, 이러한 보안 문제는 체계적이며 완벽하게 해결하기 어렵다고 경고합니다.
" 이 논문의 결과는 안전 접근 방식을 채택하는 것이 책임 있는 혁신을 실현하는 데 매우 중요하다는 것을 분명히 보여줍니다. AI 기반 로봇을 현실 세계에 도입하기 전에 내재된 취약점을 해결해야 합니다 ."라고 연구팀은 밝혔습니다.
안전한 운영을 위해서는 잠재적인 위협과 취약점에 대해 AI 시스템을 테스트하는 것이 필요하며, 이는 해당 시스템에서 생성된 AI 시스템을 보호하는 데 필수적입니다. 약점을 파악해야만 위험을 방지하기 위한 시스템을 테스트하고 교육할 수 있습니다.
수성에 대한 흥미로운 사실 9가지
수성은 태양계에서 가장 작은 행성이며, 태양에 가장 가까운 행성이기도 합니다. 수성은 믿을 수 없을 정도로 빠른 속도로 태양을 공전하며, 평균 속도는 시속 106,000마일에 달합니다. 이는 이 행성에 대한 많은 흥미로운 사실 중 일부에 불과합니다.
소니, 삼성, LG 등에서 판매하는 32인치, 40인치, 43인치, 55인치 TV의 크기는 어떻게 되나요?
아래 기사는 소니, 삼성, LG의 현재 TV 제품군의 크기를 이해하는 데 도움이 되며, 이를 통해 올바른 구매 결정을 내리는 데 도움이 될 것입니다.
삶의 질을 극적으로 향상시키는 7가지 간단한 기술 개선
기술과 건강한 관계를 맺는 것은 어려워 보일 수 있지만, 작은 변화가 큰 변화를 가져올 수 있습니다.
삼성 갤러리 앱에서 할 수 있다는 사실을 몰랐던 8가지
삼성 갤러리 앱은 여러분이 생각하는 것보다 더 강력한 기능을 가지고 있지만, 당장은 눈에 띄지 않을 수도 있습니다.
마이크로소프트의 폴더블 스마트폰, 주름 없어질까
마이크로소프트는 지난 10월 1일에 화면에 주름이 생기지 않으면서도 360도 접을 수 있는 접이식 휴대폰에 대한 특허를 받으면서 최초의 접이식 스마트폰 출시에 한 걸음 더 다가갔다고 전해졌습니다.
Google, 검색에서 파란색 체크 표시 테스트
Google은 검색에서 파란색 체크 표시를 통한 새로운 확인 기능을 테스트하고 있습니다. 이 기능은 사용자가 가짜 또는 사기성 웹사이트 링크를 클릭하는 것을 방지하는 데 도움이 됩니다.
Microsoft 365와 Office 2024 구별하기
Microsoft 365와 Office 2024는 언뜻 보기에 매우 비슷해 보일 수 있습니다. 둘 다 Microsoft의 인기 있고 널리 사용되는 애플리케이션에 액세스할 수 있게 해주기 때문입니다.
최신 엘리멘탈 던전 코드 및 코드 입력 방법
엘리멘탈 던전 코드는 게이머에게 꼭 필요한 보상입니다. Roblox의 다른 온라인 게임과 마찬가지로 플레이어는 돈이나 다른 아이템을 대가로 이러한 지원을 받을 수 있습니다.
Word에서 테이블 제목 표시줄을 반복하는 방법
Word 문서를 인쇄할 때, Word에서 표를 만들 때, Word에서 제목을 반복하면 제목을 더 편리하게 추적하고, 특히 제목이 긴 경우 여러 페이지에서 문서 제목을 원활하게 읽을 수 있습니다.
IOS 18에서 iMessage 애니메이션 메시지를 만드는 방법
새로운 iOS 18 iMessage는 애니메이션 메시지와 텍스트 효과로 업데이트되었으며, 보내는 메시지에 사용할 수 있는 다양한 옵션이 추가되었습니다.
왜 돼지는 뱀의 천적일까?
돼지에 대한 흥미로운 사실 중 잘 알려지지 않은 사실이 하나 있습니다. 돼지는 뱀의 적이라고 여겨지는데, 이 두 동물이 만나면 대부분의 뱀이 돼지의 먹이가 되기 때문입니다.
지구에서 태양계에서 가장 큰 행성인 목성까지의 거리는 얼마입니까?
지구에서 목성까지의 거리는 얼마입니까? 만약 모르신다면, 이 기사를 통해 목성이 지구에서 얼마나 떨어져 있는지 알려드리겠습니다.
시즌 S1 2023 Lien Quan Mobile의 메타 장군을 발견하세요
모바일 얼라이언스 메타에서 제외된 장군은 누구인가요? 이제 탐험해 봅시다
그레이브스 DTCL 시즌 7.5: 표준 아이템, 그레이브스 로이 롱 스쿼드
시즌 1, 시즌 3, 시즌 6의 그레이브스 DTCL은 모두 1골드에 불과하며, 클랜을 자극하기 위한 추가 챔피언일 뿐인 듯합니다. 게임 초반의 주요 역할은 여전히 사용되지만 그다지 많지는 않습니다. DTCL 시즌 7.5부터 그레이브스의 가격이 4골드로 폭등했으며, 썬더 드래곤이나 거너를 플레이하기로 결정했다면 반드시 필요한 영웅입니다.