생성형 인공지능(generative artificial intelligence [AI])과 대규모 언어모델(large language model, LLM)은 과학 논문 작성의 여러 측면에 큰 영향을 미치고 있다. LLM은 이미 연구자들의 글쓰기 과정에 활용하고 있는 것처럼 보이고, 상당수 국제기구에서 금지하고 있는 AI를 활용한 동료심사도 실제는 보편적으로 시행되고 있을 가능성이 높다. 그러나 효율성 향상이라는 긍정적인 부분과 함께, 조작된 참고문헌[1], 근거, 수치, 통계 등에 있어 거짓된 내용(hallucination), 출판 후 점검과 오류 제기[2]와 같은 이전에 경험하지 못한 부작용이 발생할 수 있으며, 이는 새로운 재앙이 될 수도 있다. AI에 대한 편집과 심사의 기준이 과거와 같은 AI 사용 여부보다는 책임있는 AI 사용을 위해 어떤 조치를 취할 것인가로 관심의 초점이 옮겨 갔다고 주장하는 경우도 있는 등[3], AI가 논문 작성과 편집에 어떠한 영향을 미치고, 편집인·저자·심사자의 역할과 책임은 무엇인지에 대해 점검이 필요한 시점이다.

이 논문은 생성형 AI 시대의 논문 작성과 편집에서 편집인·저자·심사자의 역할과 책임을 다루고 있다.

첫 번째 논문[4]은 생성형 AI (LLM)가 의학 논문 작성 전 과정에서 효율성과 접근성을 크게 향상시키는 동시에, 사실 오류, 허위 참고문헌, 통계 해석 오류, 저자권과 책임 문제, 개인정보 보호 등 중대한 위험을 내포하고 있음을 체계적으로 정리한다. 저자는 초안 작성, 문헌 인용, 통계 분석, 윤리적 판단 등 각 단계별로 나타나는 한계를 구체적인 연구 근거와 함께 제시하며, 검색 증강 생성(retrieval-augmented generation)과 인간 감독을 결합한 관리 전략을 해결책으로 제안한다. 궁극적으로 이 논문은 생성형 AI를 자율적 연구 주체가 아닌 보조적 도구로 위치시키고, human-in-the-loop와 human-on-the-loop 체계를 통해 과학적 엄밀성·재현성·연구 윤리를 유지해야 함을 강조한다.

두 번째 논문[5]은 생성형 AI가 학술 논문 작성과 심사에 활용되기 시작하면서 저자 자격, 책임 소재, 투명성, 표절·저작권 문제 등 기존 출판윤리의 핵심 원칙이 새롭게 도전받고 있음을 정리한다. 저자는 생성형 AI는 저자가 될 수 없으며, AI가 생성한 내용의 정확성·진실성·윤리적 책임은 전적으로 인간 저자에게 귀속된다는 점에 대해 국제 편집인 단체와 학술지들의 공통된 합의를 소개한다. 궁극적으로 이 논문은 생성형 AI의 빠른 발전 속도에 맞추어, 학술 출판 윤리는 고정된 규범이 아니라 지속적으로 재검토·조정되어야 하는 ‘진행 중인 합의 과정’임을 강조한다

세 번째 논문[6]은 social media study, narrative review, qualitative analysis를 환자 자료 의존도가 낮고 비교적 짧은 시간 안에 연구 전 과정을 경험할 수 있는 AI 친화적 연구 설계 유형으로 제안하면서, 각 설계의 장점과 한계를 구체적으로 논의한다. 궁극적으로 이 논문은 AI가 연구를 자동화하는 수단이 아니라 연구자의 비판적 사고, 해석, 책임을 강화하는 협업 도구로 활용되어야 하며, AI 시대의 연구 설계 교육은 도구 사용법보다 연구 사고 능력 배양에 초점을 두어야 함을 강조한다.

네 번째 논문[7]은 편집인의 관점에서 생성형 AI가 논문 작성, 심사, 편집 과정에 어떻게 활용될 수 있는지와 함께, 조작된 참고문헌, 오류 발견 증가, 책임 소재 문제 등 새로운 출판 환경의 도전을 분석한다. 국내외 학술지의 AI 활용 정책을 비교한 결과, 대부분 학술지는 AI를 저자로 인정하지 않고 저자의 책임을 강조하지만, AI 사용 공개 기준과 심사자의 활용 범위는 학술지마다 상당한 이질성이 존재함을 보여준다. 저자는 AI 탐지 도구의 한계와 인간·AI 텍스트의 혼재 현실을 고려할 때, AI 사용 여부 자체보다 과학적 엄밀성, 재현성, 데이터 공개를 중심으로 저자·심사자·편집인이 감독자(supervisor) 역할을 수행해야 한다고 결론짓는다.

생성형 AI는 학술 글쓰기와 편집 업무의 생산성을 높일 수 있는 강력한 도구다. 그러나 참고문헌 오류·환각·기밀성·탐지 도구의 불확실성 등은 연구 신뢰를 훼손할 수 있는 구조적 위험이 있기 때문에, 공개, 책임성 강화를 강조하는 정책이 필요할 수 있다. 편집인은 AI를 편집이나 논문 작성을 위한 도구로서, 사용 여부 자체보다 과학적 엄밀성과 재현 가능성에 어떠한 영향을 미칠지를 핵심 판단축으로 삼아야 하며, 저자는 AI를 사용하더라도 최종 산출물의 정확성과 윤리적 적합성에 대해 전적인 감독자 책임을 져야 한다.