챗봇의 건강 조언을 믿어야 할까요?

점점 더 많은 사람들이 일상생활과 직업에 도움이 되는 인공지능(AI)을 활용하고 있습니다. ChatGPT 는 가장 인기 있고 널리 알려진 AI 도구 중 하나입니다. 모든 질문에 대해 합리적이고 관련성 있는 답변을 무료로 제공합니다.

생성적 AI 도구는 사람들이 자신의 건강에 대해 배우는 데 많은 도움이 될 잠재력이 있습니다. 하지만 답이 항상 정확한 것은 아닙니다. 건강에 대한 조언을 위해 ChatGPT에만 의존하는 것은 매우 위험할 수 있으며 불필요한 걱정을 야기할 수 있습니다.

생성적 AI는 아직 비교적 새롭고 끊임없이 변화하는 기술입니다. 최신 연구에서는 ChatGPT를 사용하여 건강 관련 질문에 답하는 사람이 누구인지, 그리고 어떤 목적으로 사용하는지에 대한 최초의 호주 데이터를 제공합니다.

연구 결과는 사람들이 건강을 위해 이 새로운 기술을 사용하는 방법과 이를 안전하게 사용하는 데 필요한 새로운 기술을 배우는 데 도움이 될 수 있습니다. 다시 말해, " AI 건강 정보 습득 능력 "을 키우는 데 도움이 될 수 있습니다.

ChatGPT를 사용해 건강에 대해 질문하는 사람은 누구인가요? 그들은 무엇을 묻나요?

2024년 6월, 이 연구에서는 2,000명이 넘는 호주인을 대상으로 건강 질문에 답하기 위해 ChatGPT를 사용하는지 물었습니다. 2024년 상반기에 10명 중 1명(9.9%)이 ChatGPT에 건강 관련 질문을 했습니다. 평균적으로 그들은 ChatGPT를 "꽤" 신뢰한다고 답했습니다(5점 만점에 3.1점).

이 연구에서는 건강에 대해 질문하기 위해 ChatGPT를 사용하는 사람의 비율이 건강 정보 이해도가 낮은 사람, 영어권이 아닌 국가에서 태어난 사람, 또는 집에서 다른 언어를 사용하는 사람일수록 더 높다는 사실을 발견했습니다.

이는 ChatGPT가 호주에서 전통적인 형태의 건강 정보에 접근하는 데 어려움을 겪는 사람들을 지원할 수 있음을 보여줍니다.

사람들이 ChatGPT에 가장 많이 묻는 질문은 다음과 같습니다.

• 건강 상태에 대해 알아보세요(48%)
• 증상의 의미 이해(37%)
• 행동에 대해 묻거나(36%) 의학 용어를 이해합니다(35%).

절반 이상(61%)이 임상 검사를 통한 조언이 필요한 질문을 하나 이상 물었습니다. 이런 질문은 '위험한' 종류입니다. ChatGPT에 귀하의 증상이 무엇을 의미하는지 묻는 것은 대략적인 정보를 제공하는 데 도움이 될 수 있지만 임상적 조언을 대체할 수는 없습니다.

영어가 아닌 나라에서 태어났거나 집에서 다른 언어를 사용하는 사람들은 이런 유형의 질문을 할 가능성이 더 높습니다.

왜 이것이 중요한가요?

건강 정보를 위해 AI를 사용하는 사람의 수는 증가할 것으로 보인다. 연구에 따르면, 아직 건강 정보를 얻기 위해 ChatGPT를 사용하지 않은 사람 중 39%가 앞으로 6개월 이내에 사용을 고려할 의향이 있다고 밝혔습니다.

Google Gemini, Microsoft Copilot, Meta AI와 같은 다른 도구를 고려하면 건강 정보를 위한 생성 AI 도구를 사용하는 사람의 총 수는 훨씬 더 많습니다.

특히 이 연구에서 과학자 팀은 문화적, 언어적으로 다양한 커뮤니티의 사람들이 건강 정보를 얻기 위해 ChatGPT를 사용할 가능성이 더 높다는 것을 발견했습니다.

ChatGPT에 건강 정보를 번역하도록 요청하면 복잡성이 한층 더 커집니다. 생성 AI 도구는 다른 언어에서는 정확도가 떨어지는 경우가 많습니다.

우리는 다른 언어를 사용한다는 사실이 고품질 건강 정보를 얻는 데 장애가 되지 않도록 서비스(인간이든 기계든)에 투자해야 합니다.

'AI 건강 지식'은 어떤 모습일까?

인공지능(AI)은 건강 정보를 찾는 데 사용하는 사람들에게 기회와 위험을 모두 제공합니다.

한편, 이 기술은 이미 건강 관리와 건강 정보에 접근하는 데 상당한 장벽을 겪고 있는 사람들에게 매력적입니다. 가장 큰 장점 중 하나는 건강 정보를 즉각적이고 쉽게 이해할 수 있도록 제공한다는 것입니다.

최근 연구 검토에 따르면 생성 AI 도구는 복잡한 건강 주제에 대한 정확도는 떨어지지만, 쉬운 언어로 일반적인 건강 질문에 대답하는 능력은 점차 향상되고 있는 것으로 나타났습니다.

이는 대부분의 건강 정보가 일반 대중이 이해하기에는 너무 복잡한 수준으로 작성되어 있기 때문에, 심지어 전염병이 창궐하는 시기에도 이러한 정보 제공에는 분명한 이점이 있습니다.

반면, 사람들은 건강 조언을 위해 다목적 AI 도구를 활용하고 있습니다. 임상 검사와 환자에 대한 보다 심층적인 이해가 필요한 질문의 경우 이 방법은 더 위험합니다.

병원에 갈지 말지를 결정하기 위해 범용 AI 도구를 사용하는 것의 위험성을 보여주는 사례 연구가 많이 있었습니다.

사람들이 AI 도구에 조언을 구하는 질문의 유형을 신중하게 생각하도록 돕고, 위험한 건강 관련 질문에 답할 수 있는 적절한 서비스와 연결해야 합니다.

본 기사는 크리에이티브 커먼즈 라이선스에 따라 The Conversation에서 번역 및 요약되었습니다.