사실이 아닌 헤드라인 논란 후 애플에 AI 기능 제거를 촉구

주요 언론 감시 기구가 Apple에게 발생적 AI 기능을 철회하도록 촉구했습니다. 이 도구는 고소명 살인 사건에 관한 헤드라인을 잘못 BBC News에게 돌리게 만들었기 때문입니다.

목요일에 BBC는 애플의 새로운 기능인 애플 인텔리전스가 잘못된 헤드라인을 생성하여 논란이 일어났다고 보도했습니다. 이 기능은 헬스케어 보험 CEO 브라이언 톰슨의 살인 용의자인 루이지 망조네가 자신을 쏜 것처럼 제안했습니다. BBC는 그런 기사를 게시하지 않았습니다.

신문 기자들 없이 경계 (RSF)라는 국제조직은 언론의 자유를 옹호하며, 이번 사건이 미숙한 AI 도구가 언론의 신뢰성과 대중의 신뢰에 미치는 위험을 강조했습니다.

RSF의 기술 및 언론 데스크 헤드인 Vincent Berthier는 이번 실수를 비난하며, 이를 “매체의 신뢰성에 대한 타격”이라고 부르고, 신뢰할 수 있는 정보에 대한 대중의 접근을 위협한다고 지적했습니다. RSF는 Apple이 해당 기능을 즉시 제거하도록 요구했습니다.

“유럽 AI 법안이 세계에서 가장 발전된 법률임에도 불구하고, 정보 생성 AI를 고위험 시스템으로 분류하지 않아 중대한 법적 공백이 생겼습니다. 이 공백은 즉시 메워져야 합니다.”라고 베르티에가 말했습니다.

BBC는 기술 거인에게 공식적인 불만을 제기하고 해결책을 요청했지만, 애플이 이에 대해 어떻게 반응했는지는 아직 불분명합니다.

결함이 있는 AI 요약은 BBC 뉴스에만 국한된 것이 아니었습니다. 11월 21일, 이 기능은 뉴욕 타임스 기사를 부정확하게 요약하여, BBC 기사에서 보도된 것처럼 이스라엘의 총리인 벤자민 네타냐후가 체포되었다는 거짓 정보를 제공했습니다.

이 알림은 나중에 기자 켄 슈웬케가 강조한 바와 같이, 실제로는 네타냐후에 대한 국제형사재판소의 체포영장을 언급한 것이었습니다.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

href=”https://bsky.app/profile/did:plc:zelv6idqmyc35bllgrvkpcep/post/3lbi6rxhigc2r?ref_src=embed”>2024년 11월 21일 16:22

Apple Intelligence는 알림 방해를 줄이기 위해 이들을 요약하고 그룹화하는 것을 목표로 합니다. iOS 18.1을 실행하는 iPhone과 최신 모델, 그리고 일부 iPad와 Mac에서 사용할 수 있습니다. 하지만 이 도구는 신뢰할 수 있는 뉴스 매체에서의 정보를 잘못 표현하는 것에 대한 비판을 받았습니다.

BBC 대변인은 일부 그룹화된 알림이 세계 이벤트에 대한 이야기를 정확하게 요약했지만, Mangione와 관련된 오해는 이 기술이 미디어 매체와 대중의 이해를 해치는 가능성을 보여주었다고 강조했습니다.

RSF는 “이 사고는 생성적 AI 서비스가 아직 공중에게 신뢰할 수 있는 정보를 제공하는데 너무 미숙하며, 그런 용도로 시장에 출시되어서는 안 된다”고 경고했다.

Ars Technica는 애플의 알림 요약을 검토하면서, 자주 발생하는 여러 문제점을 지적했다. 첫째, 일부 요약은 사실적으로 정확하지만, 관계나 정신 건강과 같은 민감한 주제에서 로봇처럼 들리고 어색하게 느껴진다. 둘째, 일부는 비꼬는 말, 속어, 관용 표현을 잘못 이해하며, 종종 그것들을 너무 직설적으로 해석한다.

문맥의 손실은 또 다른 주요 문제로, 특히 스레드의 이전 메시지를 놓치거나 멀티미디어 콘텐츠를 고려하지 않는 요약에서 발생합니다. 여러 주제로 이루어진 그룹 채팅에서는 요약이 과부하가 되어 주제가 혼합되고, 이로 인해 부정확성이 발생할 수 있습니다.

마지막으로, 일부 요약은 단순히 잘못되어 있습니다. 종종 너무 많은 정보를 너무 적은 단어로 압축하려는 시도로 인해 왜곡된 내용이 나타나기 때문입니다. 전반적으로, 이러한 문제들은 이 기능의 유용성과 정확성에 영향을 미치며, 일상적인 사용에서 자주 발생합니다.

망지오네는 이제 1급 살인 혐의로 기소되었으며, AI가 뉴스 산업에 미치는 위험성에 대한 논쟁에서 주목받는 중입니다. 신뢰할 수 있는 뉴스에 대한 대중의 의존성은 애플이 이 문제를 해결하라는 압력이 증가함에 따라 위협을 받고 있습니다.