[데일리환경=유승철 기자] 유럽연합(EU)이 연구현장에서 생성형 인공지능(AI)을 사용하는 기준을 크게 손질했다. 단순 문서작성이나 요약을 넘어 연구과정을 스스로 계획하고 여러 작업을 연속 수행하는 ‘에이전트형 AI’가 빠르게 확산하자, 연구자가 통제권과 최종 책임을 유지해야 한다는 원칙을 새로 구체화했다. 연구비 제안서 평가와 논문 동료평가에서도 AI가 과학적 가치 판단을 대신해서는 안 된다는 기준을 명확히 했다. 유럽연합 집행위원회 연구혁신총국은 16일 ‘연구에서 생성형 AI의 책임 있는 사용에 관한 ERA 생활지침’ 4판을 공개했다. 2024년 첫 지침이 나온 이후 가장 큰 폭의 개정이다. 이번 지침은 법적 구속력이 있는 새 규정이 아니라 기존 연구윤리와 책임 있는 AI 원칙을 연구현장의 실제 사용 사례에 적용한 권고안이다. 연구자와 대학·연구기관, 연구비 지원기관을 주요 대상으로 한다.가장 큰 변화는 에이전트형 AI에 대한 별도 기준이다. 지침은 AI 에이전트를 복잡한 목표를 설정하고 외부 시스템과 상호작용하면서 일정 부분 독립적으로 작업을 수행할 수 있는 시스템으로 본다. 연구자가 이런 도구에 분석이나 코딩, 데이터 처리 같은 복합 업무를 맡기더라도 핵심 방법론과 의사결정 지점에는 인간의 검증 절차를 두도록 했다. 특히 AI 에이전트의 사용은 통제권이나 책임을 넘기는 것으로 간주할 수 없으며, 결과의 품질과 타당성에 대한 책임은 연구자에게 남는다고 못 박았다.연구결과의 투명성 기준도 강화됐다. 문헌검토, 연구격차 탐색, 가설 설정, 데이터 분석·해석처럼 연구의 내용이나 판단에 실질적 영향을 미치는 AI 사용은 어떤 도구를 어디에 썼는지 공개하고, 환각이나 편향을 어떻게 검증했는지도 설명하도록 권고했다. 반면 맞춤법 검사나 문법 교정, 단순한 문장 다듬기처럼 연구내용에 영향을 주지 않는 보조적 사용까지 일률적으로 공개하도록 요구하지는 않는다.연구비 심사와 동료평가에서는 AI의 역할에 더 분명한 선을 그었다. 지침은 논문과 제안서의 과학적 수준과 중요성을 판단하는 업무를 AI에 위임해서는 안 된다고 밝혔다. AI는 개념 정리나 배경조사, 언어 다듬기 같은 보조업무에 제한적으로 활용할 수 있지만, 심사보고서를 작성하거나 연구의 과학적 가치를 평가하는 데 사용해서는 안 된다는 것이다. 평가자와 편집자는 AI를 쓰더라도 모든 평가와 판단, 추천에 대해 전적으로 책임져야 한다.기밀성과 데이터보호는 ‘협상할 수 없는 원칙’으로 제시됐다. 아직 공개되지 않은 연구계획서와 논문, 심사보고서, 핵심 아이디어를 보안이 확보되지 않은 공개형 AI 서비스에 입력하지 말도록 했다. 특히 연구비 지원기관이 자체 AI를 심사과정에 활용할 경우에는 편향이나 오류로 인해 신청자를 선별·순위화·배제하는 문제가 발생하지 않도록 안전장치를 두고, 어떤 용도로 AI를 썼는지도 투명하게 밝혀야 한다.새 지침은 이른바 ‘숨은 프롬프트’도 연구평가의 새로운 위험요인으로 다뤘다. 제안서나 문서 안에 사람이 보기 어려운 문자나 서식, 메타데이터 형태로 AI에 특정 행동을 지시하는 문구를 숨겨 심사결과에 영향을 주는 방식이다. EU는 연구비 지원기관에 이런 조작을 명확히 금지하고 문서를 처리하는 정보기술 시스템에 탐지·차단 장치를 마련하도록 권고했다.연구기관에도 책임을 넓혔다. 대학과 연구소는 모든 직급과 전공의 연구자·연구지원 인력에게 AI 활용 교육을 제공하고, 데이터보호와 지식재산권, 연구보안 기준을 마련해야 한다. 가능하면 기관이 직접 관리하는 로컬 또는 클라우드형 AI 도구를 제공해 민감한 연구데이터가 외부 서비스로 무분별하게 흘러가지 않도록 하라는 내용도 담겼다. 생성형 AI의 에너지·환경 부담을 추적하고 더 지속가능한 도구를 선택하도록 지원하라는 권고도 포함됐다.이번 개정은 AI를 연구현장에서 막기보다 사용할 수 있는 범위를 넓히되 인간 책임과 검증체계를 더 촘촘하게 만드는 데 초점이 맞춰졌다. 국내에서도 생성형 AI가 논문작성과 데이터 분석, 연구비 제안서 작성, 심사 지원까지 빠르게 확산하는 만큼 연구윤리 기준과 R&D 평가절차를 손볼 때 참고할 만한 기준이 될 수 있다. 앞으로는 AI 에이전트가 실제 연구과정에서 맡는 업무 범위와 AI 사용 공개 기준, 안전한 심사도구를 어디까지 허용할지가 연구기관과 학술출판계의 핵심 쟁점으로 떠오를 전망이다.