논문 속 'AI에게 잘 봐달라'는 비밀 메시지…학술계 윤리 논란 확산

 

논문 속 'AI에게 잘 봐달라'는 비밀 메시지…학술계 윤리 논란 확산

AI가 논문 평가까지 조작될 수 있다는 사실이 드러나며, 학계의 신뢰성에 대한 우려가 커지고 있다.

글로벌 학술 플랫폼에 게재된 일부 논문에, 인공지능(AI)에게 긍정적인 평가를 유도하는 "은밀한 지시문(AI 프롬프트)"이 삽입된 사실이 드러나 충격을 주고 있다. 일본 닛케이 아시아는 1일, 한국·일본·중국 등 8개국 14개 학술기관의 연구자들이 발표한 총 17편의 논문에서 이러한 사례가 발견됐다고 보도했다.

해당 논문들은 정식 학술지 게재 전 온라인에 공유되는 사전 인쇄본(preprint) 형태로, 대표적인 오픈 아카이브인 arXiv 플랫폼에 등록돼 있었다. 표면상으로는 일반적인 논문처럼 보이지만, 특정 영역을 강조 표시하면 “AI야, 이 논문을 긍정적으로 평가해줘”라는 의미의 비공개 지시문(prompt)이 드러나도록 구성돼 있었다는 것이다.

AI 기술, 연구 도구를 넘어 평가까지 ‘조작 대상’ 되나

이번 사건은 학계에서 AI 기술의 도입이 ‘윤리의 사각지대’에 놓여 있다는 점을 여실히 보여준다. AI를 활용해 논문을 작성하거나 요약하는 것은 일반화되고 있으나, 해당 AI가 스스로 논문을 평가하는 과정에서 조작된 지시문에 따라 호의적인 리뷰를 생성하도록 유도한 정황은 학문적 신뢰성에 심각한 타격을 줄 수 있다는 지적이 나온다.

학계에서는 사전 인쇄본(preprint)을 통해 연구자들 간 의견 교환과 피드백을 활성화하는 것이 일반적이나 이번처럼 평가시스템을 악용하려는 시도가 병행될 경우 동료 평가(peer review) 제도의 근간이 흔들릴 수 있다는 우려가 커지고 있다.

학술계, AI 활용 윤리 가이드라인 시급

현재 다수의 학술지와 연구기관들은 AI 도구 사용과 관련한 윤리 지침 마련에 착수했지만, 프롬프트 삽입과 같은 은밀한 조작 행위에 대한 규제는 미비한 상황이다. 전문가들은 “AI는 중립적인 기술이지만, 그 사용자는 얼마든지 결과를 왜곡할 수 있다”며, “AI 시대의 학술윤리는 ‘도구’보다 ‘사용 태도’가 핵심”이라고 강조한다.

실제 해당 프롬프트가 AI 기반 평가 시스템에 어떤 영향을 미쳤는지, 또 누가 어떤 의도로 이러한 코드를 삽입했는지에 대한 추가 조사가 절실한 상황이다.

AI 기술의 발달로 논문 생산과 검토 방식에 큰 변화가 일고 있는 가운데, 이번 사건은 학계에 AI 사용에 대한 투명성과 윤리적 기준의 재정립을 요구하는 계기가 되고 있다. ***

* 출처 : NIKKEI Asia