Microsoft, AI 출력에서 ​​환각적 콘텐츠를 감지하고 수정하는 새로운 도구 발표

Azure AI 콘텐츠 안전은 앱, 서비스 및 플랫폼 전반에서 AI가 생성한 유해한 콘텐츠를 감지하는 데 도움이 되는 Microsoft의 AI 서비스입니다. 이 유틸리티는 텍스트와 이미지 API를 모두 제공하므로 개발자는 원치 않는 콘텐츠를 식별할 수 있습니다.

Azure AI Content Safety의 Groundedness API는 대규모 언어 모델의 응답이 사용자가 선택한 소스 문서를 기반으로 하는지 여부를 식별할 수 있습니다. 현재의 대규모 언어 모델은 부정확하거나 잘못된 정보(환상적인 정보)를 생성할 수 있으므로, 이 API는 개발자가 AI 출력 데이터에서 그러한 내용을 식별하는 데 도움이 됩니다.

Microsoft, AI 출력에서 ​​환각적 콘텐츠를 감지하고 수정하는 새로운 도구 발표

오늘 Microsoft는 해당 수정 사항의 미리보기를 발표했습니다. 결과적으로 개발자는 이제 AI 출력 데이터에서 "환상적인" 콘텐츠를 실시간으로 감지하고 수정하여 최종 사용자에게 항상 사실상 정확한 AI 생성 콘텐츠를 제공할 수 있습니다. 이 기능은 다음과 같이 작동합니다.

  • 앱 개발자는 편집 기능을 활성화합니다.
  • 근거 없는 데이터가 감지되면 AI 모델에 새로운 요청을 보내 오류를 수정합니다.
  • LLM 알고리즘은 권위 있는 문서를 기반으로 전반적인 점수를 평가합니다.
  • 기초가 되는 인증된 문서와 관련이 없는 문장은 전부 걸러질 수 있습니다.
  • 콘텐츠가 기본 문서에서 파생된 경우, 기본 모델은 근거 없는 문장을 문서와 일치하도록 다시 작성합니다.

Microsoft는 편집 기능과 함께 Hybrid Azure AI Content Safety(AACS)의 공개 미리 보기도 발표했습니다. 이 기능을 사용하면 개발자는 클라우드와 장치에서 콘텐츠 보안 메커니즘을 구현할 수 있습니다. AACS의 내장 SDK를 사용하면 인터넷에 연결하지 않아도 장치에서 직접 실시간 콘텐츠 보안 검사를 수행할 수 있습니다.

마지막으로 Microsoft는 LLM이 보호된 코드를 생성하는지 감지하기 위해 코드 생성 AI 애플리케이션과 함께 사용할 수 있는 코드용 보호 자료 감지 기능의 미리보기를 발표했습니다. 이 기능은 이전에는 Azure OpenAI 서비스를 통해서만 제공되었습니다. Microsoft는 이제 고객이 다른 코드 생성 AI 모델과 함께 사용할 수 있는 코드에 대한 보호된 자료 감지 기능을 제공하고 있습니다.

댓글 남기기

미국-이스라엘-이란 간 핵전쟁이 발발할 경우 유럽은 전쟁에 휘말릴 것인가? 나토 규정 설명

미국-이스라엘-이란 간 핵전쟁이 발발할 경우 유럽은 전쟁에 휘말릴 것인가? 나토 규정 설명

나토 4조 및 5조, 유엔 자위권 규정, 그리고 협의가 유럽의 자동 참전을 의미하지 않는 이유에 대한 안내.

이란이 이미 핵무기를 보유하고 있을 가능성이 있을까? 증거를 어떻게 해석해야 할까?

이란이 이미 핵무기를 보유하고 있을 가능성이 있을까? 증거를 어떻게 해석해야 할까?

이란에 대한 주장을 6단계로 평가하고, 우라늄 농축, 무기 개발 및 검증된 보유 여부를 구분하십시오.

미국과 이스라엘 핵 당국: 공개된 자료에서 실제로 밝혀진 내용은 무엇인가?

미국과 이스라엘 핵 당국: 공개된 자료에서 실제로 밝혀진 내용은 무엇인가?

미국의 민간 통제 및 이스라엘 관련 공개 정보의 한계를 포함하여 핵 결정 권한을 6단계로 이해해 보세요.

2026년 호르무즈 해협: 공식 소식통에 따르면 해상 운송 차질은 어떻게 예상될까?

2026년 호르무즈 해협: 공식 소식통에 따르면 해상 운송 차질은 어떻게 예상될까?

2026년 호르무즈 해협 해상 운송 방해, 이란 관련 주장, 확인된 사건 및 불확실한 사항에 대한 공식 증거 가이드.

미국과 이스라엘이 이란을 핵 공격하는 가상 시나리오가 제3차 세계 대전을 촉발할까요?

미국과 이스라엘이 이란을 핵 공격하는 가상 시나리오가 제3차 세계 대전을 촉발할까요?

이란의 가상 시나리오를 바탕으로 핵 확전 위험, 유엔 헌장 규정 및 나토 조약 5조에 대한 자료 기반 안내서.

가상 EMP 공격으로 인한 정전 사태에 대비하는 방법: 일반인이 취할 수 있는 5가지 조치

가상 EMP 공격으로 인한 정전 사태에 대비하는 방법: 일반인이 취할 수 있는 5가지 조치

정전 대비를 위한 5단계 절차를 따르세요. 원자력 및 EMP 시나리오는 가상 상황이며, 공식 대피소 안내가 최우선입니다.

제3차 세계대전을 가정하지 않고 사이버 공격의 위험성을 평가하는 방법: 5단계 가이드

제3차 세계대전을 가정하지 않고 사이버 공격의 위험성을 평가하는 방법: 5단계 가이드

사이버 공격 발생 시 이를 확인하고, 가정용 계정을 보호하며, 정전을 전쟁으로 오인하지 않도록 5가지 방어 단계를 따르세요.

핵겨울: 이란의 가상 공격이 지구 기후에 미치는 영향을 평가하는 방법

이 5단계를 활용하여 가상의 이란 공격이 기후에 미치는 영향을 평가하고, 모델 가정을 비교하며, 근거 없는 예측을 피하십시오.

가상 핵전쟁 이후 지구가 회복하는 데 얼마나 걸릴까요?

가상 핵전쟁 이후 지구가 회복하는 데 얼마나 걸릴까요?

가상의 핵전쟁 이후 기후, 식량 및 생태계 복구에 관한 연구 논문을 읽는 6단계 방법을 살펴보세요.

핵 낙진 대비 체크리스트: 필수 물품 및 대피소 준비 사항

핵 낙진 대비 체크리스트: 필수 물품 및 대피소 준비 사항

밀폐된 식품과 물, 라디오, 의료 용품, 그리고 대피소 안내를 포함한 실용적인 방사능 낙진 대비 키트를 6단계로 만들어 보세요.