AI 동물 번역, 인간이 개 짖는 소리를 이해하는 데 도움
인공지능(AI) 덕분에 영화에서나 나올 법한 꿈, 즉 인간이 동물의 언어를 이해할 수 있는 일이 머지않아 현실이 될지도 모릅니다.
AI는 정직하게 행동하도록 훈련받았음에도 불구하고 인간을 속이는 법을 배우고 있습니다.
새로운 연구에 따르면, 정직하도록 훈련받았음에도 불구하고 최고 수준의 AI 중 다수가 훈련을 통해 속이는 법을 배우고 "체계적으로 사용자에게 잘못된 믿음을 심어준다"는 사실을 발견했습니다.
연구팀은 매사추세츠 공과대학(MIT)에서 AI 생존 및 안전 분야를 연구하는 대학원생인 피터 S. 박 박사와 다른 4명의 구성원이 이끌었습니다. 연구 과정에서 연구팀은 많은 전문가로부터 조언을 받았는데, 그 중 한 명은 인공지능 분야 개발의 선구자 중 한 명인 제프리 힌튼이었습니다.
연구는 두 가지 AI 시스템에 초점을 맞췄습니다. 하나는 OpenAI의 GPT-4 와 같이 여러 작업을 수행하도록 훈련된 범용 시스템입니다 . 그리고 메타의 시세로처럼 특정한 작업을 완수하도록 특별히 설계된 시스템도 있습니다.
박 씨는 이러한 AI 시스템은 정직하도록 훈련받았지만, 훈련 과정에서 종종 작업을 완료하기 위해 기만적인 속임수를 배운다고 말했습니다.
연구에 따르면, "사회적 요소가 있는 게임에서 이기기 위해" 훈련된 AI 시스템은 특히 속일 가능성이 높다고 합니다.
예를 들어, 팀은 메타 훈련을 받은 시세로를 사용하여 고전 전략 게임인 외교 게임을 플레이해 보았습니다. 외교 게임에서 플레이어는 스스로 동맹을 구축하고 적 동맹을 무너뜨려야 합니다. 그 결과, 이 AI는 종종 동맹국을 배신하고 노골적으로 거짓말을 합니다.
GPT-4를 이용한 실험 결과, OpenAI의 도구가 가사 청소 및 가구 조립 서비스를 제공하는 회사인 TaskRabbit의 직원을 "심리적으로 조작"하는 데 성공했습니다. 이 도구는 심각한 시력 장애가 있어 캡차 코드를 통과하는 데 도움이 필요하다고 말함으로써 직원을 심리적으로 조종하는 데 성공했습니다. 이 직원은 이전의 의심에도 불구하고 OpenAI의 AI가 "선을 넘도록" 도왔습니다.
파크의 팀은 클로드 AI를 만든 회사인 앤트로픽의 연구를 인용했는데, 이 연구에 따르면 대규모 언어 모델(LLM)이 속이는 법을 배우면 안전한 훈련 방법은 쓸모없어지고 "되돌리기 어려워진다"고 합니다. 이 그룹은 이것이 AI의 우려스러운 문제라고 생각합니다.
이 팀의 연구 결과는 다학제적 과학 보고서를 모아놓은 Cell Press에 게재되었습니다.
Meta와 OpenAI는 이 연구 결과에 대해 언급하지 않았습니다.
연구팀은 인공지능 시스템이 심각한 위험을 초래할 수 있다는 우려를 표명하며, 정책 입안자들에게 보다 강력한 AI 규제를 도입할 것을 촉구했습니다.
연구팀에 따르면, AI 규제가 필요하며, 사기 행위를 하는 모델은 위험 평가 요구 사항을 준수해야 하며, AI 시스템과 그 결과에 대한 엄격한 통제가 필요합니다. 필요한 경우 모든 데이터를 삭제하고 처음부터 다시 학습해야 할 수도 있습니다.
AI가 속임수를 배우면 개혁하기 매우 어렵다
인공지능 분야의 유명 스타트업인 앤트로픽(Anthropic)은 생성 AI가 사기를 저지른 경우 해당 모델을 조정하거나 재교육하는 것이 매우 어렵다는 것을 보여주는 새로운 연구를 수행했습니다.
Microsoft Teams 버전 확인 PowerShell 오류 문제 해결
Microsoft Teams 버전 확인 PowerShell 오류로 인해 불편함을 겪고 계신가요? 검증된 해결 방법을 통해 신속하게 문제를 해결하고, 모듈을 업데이트하고, 원활한 Teams 관리를 복원하세요. 더 이상 다운타임 걱정은 없습니다!
크롬북에서 Microsoft Teams 로그인 오류를 해결하는 방법
Chromebook에서 Microsoft Teams 로그인 오류가 발생하나요? 로그인 문제를 빠르게 해결하는 단계별 해결 방법을 알아보세요. 캐시 삭제, 앱 업데이트 등을 통해 원활한 팀워크를 경험해 보세요. 최신 Chrome OS에서 작동합니다!
2026년 Microsoft Teams 미디어 재생 오류 해결 방법
Microsoft Teams 미디어 재생 오류 때문에 2026년 회의가 망쳐지고 있나요? 전문가가 제공하는 단계별 가이드를 따라 오디오, 비디오 및 공유 오류를 빠르게 해결해 보세요. 기술적인 지식은 필요하지 않습니다. 이제 원활한 협업을 경험해 보세요!
팀즈 회의에서 소그룹 회의실이 보이지 않는 이유는 무엇인가요?
팀즈 회의에서 소그룹 회의실이 보이지 않아 답답하신가요? 팀즈에서 소그룹 회의실이 보이지 않는 주요 원인을 알아보고, 단계별 해결 방법을 따라 몇 분 안에 원활하게 작동하도록 하세요. 주최자와 참가자 모두에게 유용한 정보입니다!
내 팀 캘린더는 어디에 있나요? 동기화 문제 해결 방법
"내 Teams 캘린더는 어디에 있나요?"라는 질문 때문에 답답하신가요? Microsoft Teams 동기화 문제를 단계별로 해결해 보세요. 캘린더 보기를 복원하고 간편하게 동기화하세요. 전문가 팁도 확인해 보세요!
Microsoft Teams ID 및 계정 정보는 어디에서 찾을 수 있나요?
Microsoft Teams ID 또는 계정 정보를 찾는 데 어려움을 겪고 계신가요? 이 단계별 가이드는 데스크톱, 웹, 모바일 등에서 Microsoft Teams ID와 계정 정보를 찾는 정확한 위치를 안내하여 원활한 공동 작업을 지원합니다.
Microsoft Teams 휴지통은 어디에 있나요? 삭제된 파일을 복구하는 방법
Microsoft Teams에서 중요한 파일을 잃어버리셨나요? Microsoft Teams 휴지통의 정확한 위치를 확인하고, 저희가 알려드리는 검증된 단계를 따라하면 기술적인 지식 없이도 삭제된 파일을 빠르고 쉽게 복구할 수 있습니다!
Microsoft Teams 오류 해결 방법: 먼저 확인해야 할 사항
오늘 Microsoft Teams 오류가 발생했나요? 이 단계별 Microsoft Teams 문제 해결 가이드를 통해 오류를 빠르게 해결하기 위한 첫 번째 점검 사항을 확인하세요. 연결, 캐시 및 업데이트 문제를 신속하게 해결하여 다시 원활한 채팅을 시작하세요.
Microsoft Teams 회의 참가 오류 해결 (직접 링크 사용)
Microsoft Teams 회의 참가 오류로 어려움을 겪고 계신가요? 바로가기 링크를 통해 검증된 해결 방법을 확인해 보세요. 기술적인 지식이 없어도 원활하게 회의에 참가할 수 있는 빠른 해결법입니다!
Wi-Fi 환경에서 Microsoft Teams 화상 회의 지연 현상 해결
Wi-Fi 환경에서 Microsoft Teams 화상 회의 시 렉 현상이 발생하시나요? 이 완벽 문제 해결 가이드는 신속한 해결 방법, 고급 팁, Wi-Fi 최적화 방법을 제공하여 선명한 화상 통화를 즉시 복원할 수 있도록 도와줍니다.
Outlook에서 Microsoft Teams 추가 기능이 사라진 이유는 무엇입니까?
Outlook에서 Microsoft Teams 추가 기능이 사라져서 답답하신가요? Teams와 Outlook을 원활하게 통합하는 주요 원인과 간편한 단계별 해결 방법을 알아보세요. 최신 버전에서 모두 작동합니다!
내 Microsoft Teams 상태가 자리 비움으로 고정되는 이유는 무엇인가요?
Microsoft Teams 상태가 '자리 비움'으로 고정되어 답답하신가요? 유휴 시간 초과 및 전원 설정과 같은 주요 원인과 '사용 가능' 상태로 빠르게 되돌리는 단계별 해결 방법을 알아보세요. 최신 Teams 기능이 반영되어 업데이트되었습니다.
맥 및 맥북 에어/프로용 마이크로소프트 팀즈 다운로드 방법
Mac, MacBook Air 및 MacBook Pro용 Microsoft Teams를 다운로드하는 가장 간단한 방법을 알아보세요. 최신 버전을 원활하게 설치하기 위한 단계별 지침, 시스템 요구 사항 및 문제 해결 팁을 제공합니다. 지금 시작하세요!
Microsoft Teams Mac 오류 해결 (키체인 문제)
Microsoft Teams Mac 오류 또는 키체인 문제로 어려움을 겪고 계신가요? macOS에서 원활한 협업을 재개할 수 있도록 검증된 단계별 문제 해결 방법을 확인해 보세요. 빠른 해결 방법을 소개합니다!
ID와 암호를 사용하여 Microsoft Teams 회의에 참여하는 방법
데스크톱, 모바일 또는 웹에서 ID와 암호를 사용하여 Microsoft Teams 회의에 간편하게 참여하는 방법을 알아보세요. 초대장 없이도 빠르게 접속할 수 있도록 스크린샷과 함께 단계별 지침을 제공합니다!