Best Practices for Using AI When Writing Scientific Manuscripts: Caution, Care, and Consideration: Creative Science Depends on It

Motivation

Known: ChatGPT는 2개월 만에 1억 명의 사용자를 확보하여 역사상 가장 빠르게 성장하는 애플리케이션이 되었으며, 유사한 AI 언어 도구들이 계속 개발 중이다.
Gap: 과학 커뮤니티가 이러한 도구의 잠재적 영향을 충분히 검토하지 못한 채 광범위하게 채택되고 있으며, 생성된 텍스트의 정확성 검증 없이 사용되고 있다.
Why: 인간 수준의 자연스러운 문장 생성 능력이 독자를 속일 수 있고, 허위 참고문헌 생성, 얕은 분석, 창의성 저하 등의 문제가 발생할 수 있기 때문이다.
Approach: 과학자들을 위한 포괄적인 가이드라인을 제시하여 AI 도구를 책임감 있고 신중하게 활용할 수 있도록 한다.

AI 언어 봇의 강점 9가지 제시:
- 저술 시 정신적 고착(mental log jam) 해소
- 흥미로운 비유와 창의적 연결고리 생성
- 제목, 초록, 결론 개선
- 문헌 검색 시 누락된 참고문헌 제안
- 저술 구조 가이드 제공
- 영어 비모국어 사용자의 글쓰기 촉진
- 주제 검토의 철저성 강화
- 낯선 분야의 기초 지식 습득
- Python 등 컴퓨터 언어 코드 개발
AI 언어 봇의 우려점 10가지 명확화:
- 과도한 의존에 따른 비판적 사고 약화
- 획일적(cookie-cutter) 과학으로 인한 창의성 침해
- 허위 참고문헌 생성 및 사실 왜곡
- 논쟁적 주제에 대한 편향된 시각
- 기존 과학계의 편견 재현
- 미래 지향적 관점 부족
- 원본 논문 미열독에 따른 오류
- 임상 관련 연구 보고의 투명성 훼손
- 과학적 혁신성(disruptive breakthroughs) 감소 위험
- 지속적 개선로 인한 감시 어려움

이중 검증 원칙: AI 생성 텍스트는 원본 논문을 직접 읽고 검증해야 하며, 참고문헌의 정확성을 반드시 확인해야 함
지식 기반의 한계 인식: ChatGPT의 학습 데이터가 2021년까지로 제한되므로 최신 리뷰 및 관점 작성에 부족함을 인식
전략적 활용 시점: 초안 작성 후 보완 관점 제공용으로 사용하되, 초기 단계에서 사용 시 사고의 틀 고착 위험 주의
창의성 우선 원칙: AI는 기존 통념 정리에는 적합하나 독창적 결과 식별 및 판단에는 부족하므로, 창의적 통찰은 인간의 몫으로 남겨야 함
책임 있는 저술: 과학은 명예 체계(honor system) 위에 성립하므로, 동료 및 공저자에게 우려점과 모범 사례를 알리는 것이 중요함

범위의 제약: 에디토리얼 형식으로 상세한 실험 데이터나 사례 분석이 제시되지 못함. 실제 학생 저자들의 AI 도구 과의존 사례에 대한 실증 연구 필요
정책 구현의 공백: 권장사항은 제시하나 출판사, 저널 편집자, 기관 차원의 강제 지침이나 검증 메커니즘 개발은 후속 과제
기술 발전의 속도: 논문 작성 당시 이미 ChatGPT 4.0 개발 중이었으므로, 지속적 업데이트에 따른 가이드라인 수정 필요성 인정
후속 연구 방향:
- AI 생성 텍스트 탐지 기술의 고도화
- 학생 교육에서 AI 도구 활용이 학습 성과에 미치는 장단기 영향 분석
- 출판사 및 학술지의 AI 사용 정책 개발 및 시행
- 학제별 특성에 맞는 맞춤형 가이드라인 개발