Apple AI의 개인정보 보호 문제

Apple은 WWDC24 에서 수많은 AI 기능을 공개하며 iPhone, iPad, Mac에 강력한 도구를 제공하겠다고 약속했습니다. 하지만 애플이 정말로 AI 세계에서 개인 정보 보호를 보장할 수 있을까? Apple의 온디바이스 및 프라이빗 클라우드 솔루션은 인상적이지만, ChatGPT를 통합하면 잠재적인 취약점이 발생합니다.

Apple이 AI를 개인 정보 보호 도구로 전환할 계획

Apple은 WWDC24에서 수많은 AI 기능을 공개했으며, 이 기능은 2024년 말까지 지원되는 모든 Mac, iPhone, iPad에서 사용할 수 있게 됩니다. 하지만 AI와 개인 정보 보호는 항상 함께 고려되는 것은 아닙니다. 그럼에도 불구하고 Apple은 개인정보 보호에 대해 과감하면서도 합리적인 약속을 했습니다.

기기 내 처리

일반적으로 AI 작업에는 상당한 처리 능력이 필요한데, 이는 대부분의 표준 휴대폰과 노트북에는 부족한 리소스입니다. 하지만 Apple 실리콘이 출시되면서 M 시리즈나 A17 Pro(및 최신 버전) 칩이 장착된 모든 Mac, iPhone, iPad는 Apple의 언어 모델을 포함하여 대부분의 생성 AI 모델을 로컬로 실행할 수 있게 됩니다.

Apple은 머신 러닝과 AI를 처리하기 위해 자체 Apple Neural Engine(ANE)을 꽤 오랫동안 개발해 왔습니다. 수년에 걸쳐 AI 요청을 CPU나 GPU에 전적으로 넘기지 않고도 처리하는 것이 더 효율적이 되었습니다. Apple의 AI 모델 대부분은 실제로 오프라인에서 실행되며 개인 정보 보호를 보장합니다.

프라이빗 클라우드 컴퓨팅(PCC)

하지만 Apple 기기에서는 일부 AI 요청을 로컬로 처리하지 못할 수도 있습니다. Apple은 WWDC24에서 이를 언급했지만, 로컬 오프라인 프로세서에 어떤 요청이 너무 많은지 구체적으로 설명하거나 예를 제시하지 않았습니다. 이러한 예는 추측에 불과하지만 Apple에서는 "복잡한 요청"이 기기를 손상시킬 수 있다고 말합니다.

Apple의 솔루션은 Apple의 맞춤형 실리콘으로 구축된 클라우드 기반 AI 프로세서인 Private Cloud Computing(PCC)입니다. 이 솔루션은 개인정보 보호와 투명성을 강조하며 Apple의 기기 보호 솔루션과 마찬가지로 자체적인 Secure Enclave를 제공합니다. PCC를 사용하면 AI 요청은 처리 직후에 삭제되며 Apple을 포함한 누구도 백도어를 통해 데이터에 액세스할 수 없습니다. 신뢰를 더욱 구축하기 위해 Apple은 검증 가능한 투명성을 제공하여 타사 보안 연구원이 PCC 노드에서 실행되는 소프트웨어를 감사할 수 있도록 합니다.

ChatGPT는 심각한 개인 정보 보호 위험을 초래합니다.

기기 내 처리와 PCC는 둘 다 훌륭한 개인정보 보호 조치이지만, Apple Intelligence에는 여전히 의심스러운 측면이 하나 있습니다. 바로 ChatGPT입니다 . 모르는 분들을 위해 말씀드리자면 Apple은 Siri를 포함한 자사의 AI 경험에 ChatGPT를 통합할 계획입니다. 이러한 AI 애플리케이션은 ChatGPT의 광범위한 지식 기반을 활용하고 이미지 처리 기능을 차용합니다.

공평하게 말하면 Apple은 ChatGPT를 사용할 때 사용자의 개인 정보 보호를 보장하기 위해 몇 가지 조치를 취했습니다. 예를 들어, OpenAI에 요청을 보내면 해당 기기는 귀하의 IP 주소를 난독화하고 귀하의 정보에 대한 기록은 생성되지 않습니다. 또한, 모든 ChatGPT 요청은 사전에 귀하의 허가가 필요하며, 매번 허가를 부여해야 합니다.

참고 : 엘론 머스크의 주장에도 불구하고 OpenAI는 사용자 기기의 모든 데이터에 접근할 수 없습니다. ChatGPT는 프롬프트에 표시된 정보만 처리할 수 있습니다.

하지만 ChatGPT의 가장 강력한 기능을 사용하려면 구독이 필요하며, 프리미엄 계정에 연결해야 합니다. 하지만 이렇게 하면 OpenAI의 개인정보 보호정책이 적용됩니다. OpenAI의 개인정보 보호정책에 따라 OpenAI는 개인정보를 수집하고, 사용 내역을 기록하고, 개인정보를 기반으로 모델을 훈련하고, 제3자와 데이터를 공유하며, 이와 관련된 여러 가지 영향을 미칠 수 있습니다.

ChatGPT의 개인정보 보호 위반 중 일부를 피할 수 있는 방법이 있기는 하지만, 대부분의 해결책은 우회적이며 OpenAI는 이를 쉽게 피할 수 있습니다. Apple Intelligence 에서 ChatGPT를 피하는 것은 (특히 macOS에서) 어렵거나 불가능할 것으로 보입니다 . Siri나 Compose를 어떻게 사용하느냐에 따라 ChatGPT에 크게 의존하게 되고, 개인 데이터의 상당 부분을 OpenAI에 맡기게 될 수도 있습니다.