창조적 AI가 과학계에서 경보를 울리다: 가짜 데이터가 신뢰성을 위협하다

AI가 생성한 이미지들이 연구자들과 출판사들 사이에서 큰 우려를 일으키고 있습니다. 새로운 생성 AI 도구들은 가짜 과학 데이터와 이미지를 놀랍도록 쉽게 만들 수 있다는 점이 Nature의 보도자료에서 언급되었습니다.

이런 발전은 학술 문헌의 신뢰성을 위협하며, 전문가들은 AI가 주도하는, 가짜 연구들의 급증을 우려하고 있습니다. 이러한 연구들은 식별하기 어려울 수 있습니다.

독일 FEBS Press에서 이미지 무결성 분석가로 일하는 Jana Christopher는 생성적인 AI의 빠른 진화가 과학 분야에서의 잘못된 사용 가능성에 대한 우려를 높이고 있다고 강조했다.

“저와 같은 분야에서 일하는 사람들 – 이미지 무결성과 출판 윤리 -은 AI가 제공하는 가능성에 대해 점점 더 걱정하고 있습니다.”라고 Jane은 Nature에 보도된 바와 같이 말했다.

그녀는 일부 학술지가 특정 가이드라인에 따라 AI가 생성한 텍스트를 받아들일 수도 있다고 언급하지만, Nature에서 지적한 바와 같이, AI가 생성한 이미지와 데이터는 연구 무결성에 깊은 영향을 미칠 수 있는 선을 넘어선 것으로 간주된다고 말했습니다.

Nature에 따르면, 이런 AI가 생성한 이미지를 탐지하는 것이 주요한 도전 과제가 되었습니다. 이전의 디지털 조작과 달리, AI가 생성한 이미지는 대체로 위조의 흔적이 없어, 속임수를 증명하기 어렵다고 합니다.

이미지 포렌식 전문가인 엘리자베스 비크와 다른 연구자들은 인공지능이 생성한 그림들, 특히 분자와 세포 생물학에 관한 것들이 이미 출판된 문헌에 포함되어 있을 수 있다고 주장하였습니다. 이는 Nature에서 보도하였습니다.

ChatGPT와 같은 도구들은 이제 논문을 작성하는데 정기적으로 사용되며, 수정되지 않은 대화형 로봇의 전형적인 문구로 인해 식별이 가능하지만, 인공지능이 생성한 이미지는 훨씬 더 찾아내기 어렵습니다. 이러한 문제에 대응하여, 기술 회사와 연구 기관들은 탐지 도구를 개발하고 있다고 Nature는 지적하였습니다.

AI 기반 도구인 Imagetwin과 Proofig가 생성적 AI 콘텐츠를 식별하도록 알고리즘을 훈련시키는 행보를 이끌고 있습니다. Proofig의 공동 창업자인 Dror Kolodkin-Gal은 그들의 도구가 AI 이미지를 98%의 확률로 성공적으로 감지한다고 보고하지만, Nature에 따르면 결과를 검증하기 위해서는 여전히 인간의 검증이 필수적이라고 강조했습니다.

출판계에서는 Science와 같은 학술지가 초기 제출물을 스캔하기 위해 Proofig를 사용하고, 출판 거인 Springer Nature는 텍스트와 이미지의 이상을 식별하기 위한 독자적인 도구인 Geppetto와 SnapShot을 개발하고 있다고 Nature가 보도했습니다.

Nature에서 보도한 바와 같이, 국제 과학기술 의학 출판협회와 같은 다른 조직들도 논문 공장을 막고 연구 무결성을 보장하기 위한 여러 가지 활동을 시작하고 있습니다.

그러나 전문가들은 출판사들이 신속하게 대응해야 한다고 경고하고 있습니다. 과학 이미지 조사 전문가 케빈 패트릭은 조치가 늦어지면 AI가 생성한 컨텐츠가 학술 문헌의 또 다른 해결되지 않은 문제가 될 수 있다고 우려하며, 이는 Nature에서 보도하였습니다.

이런 우려에도 불구하고, 많은 사람들이 미래의 기술이 현재의 인공지능이 만들어낸 속임수를 감지하게 진화할 것이라는 희망을 품고 있습니다. 이를 통해 학문 연구의 체계적인 진실성을 장기적으로 보장하는 해결책이 제시될 수 있을 것입니다.