저자에 관하여 : 에이미 브랜드는 2015년부터 MIT 출판부의 이사 겸 발행인으로 재직하고 있습니다. 인지과학 교육을 받은 그녀는 MIT에서 박사 학위를 취득했으며, CrossRef, Harvard, Digital Science에서 리더십 역할을 수행했습니다. 그녀는 CRediT 분류법의 공동 개발자이자 ORCID 이사회 창립 멤버이며, 다큐멘터리 영화 <Picture a Scientist>의 제작자이기도 합니다. 브랜드는 연구 인프라, 학술 소통, 그리고 과학의 형평성에 기여한 공로로 널리 인정받고 있으며, 과학 편집자 위원회상(Council of Science Editors Award)과 AAAS 카블리 과학 저널리즘 금상(AAAS Kavli Science Journalism Gold Award)을 수상했습니다.
과학은 인류 발전에 필수적입니다. 덜 분명하게 드러나지만, 과학을 어떻게 전파하는지도 매우 중요합니다. 지식을 발견하고 신뢰할 수 있게 만드는 시스템으로서, 출판은 연구 인프라의 핵심 요소입니다.
검열, 연구비 감소, 그리고 지식의 진실성을 훼손하면서 지식을 훔쳐내는 생성적 AI 시스템의 급속한 발전에 직면한 연구계의 요구에 부응하기 위해 출판은 어떻게 적응해야 할까요? 수십 년간 연구, 대학 행정, 출판 분야에서 일해 온 사람으로서, 저는 과학과 출판의 미래가 오늘날처럼 위태로운 상황에 처해 있는 것을 본 적이 없습니다. 과학 커뮤니케이션.
우리 주변의 사회정치적 시스템이 무너지면서, 생성적 AI를 세계 문제에 대한 연금술적 해결책으로 보기가 유혹적입니다. 대규모 언어 모델(LLM)은 즉각적인 답변, 매끄러운 합성, 그리고 겉보기에 지식의 민주화를 제공하는 매혹적인 발견의 관문으로 부상했습니다. 그러나 이러한 매력 뒤에는 잘못된 정보, 사기, 그리고 선전을 가속화하는 시스템으로서의 잠재력이 숨겨져 있습니다. 이러한 시스템은 의도적으로 매우 그럴듯해 보이지만 종종 오해의 소지가 있거나 완전히 틀린 콘텐츠를 생성합니다. 검증이 어렵고 비용이 많이 드는 반면, "진실성"은 저렴하고 수익성이 높다면, 특히 인간의 마음을 속이는 것이 얼마나 쉬운지 고려할 때, 이는 과학에 위험합니다.
네, 우리는 혹독한 지구적 과제에 직면하여 발견과 문제 해결을 앞당기고자 합니다. 인간의 인지 구조나 제대로 기능하지 않는 제도보다 더 빠르게 문제를 해결할 수 있는 기계를 믿고 싶어 합니다. 하지만 무제한 AI 훈련 지지자들이 혁신을 가속화하기 위해 모든 과학적 내용과 데이터를 공개하는 것이 도덕적 의무라고 주장할 때, 역사는 우리에게 경고합니다.
우리는 이런 일을 전에도 목격했습니다. 초기 인터넷은 표현과 보편적 지식의 민주화 동력으로 칭송받았습니다. 하지만 결국 규제 부재로 인해 거대 상업 플랫폼이 인터넷 공간을 장악하게 되었고, 이는 신뢰를 약화시키고 뉴스와 연구 콘텐츠 모두의 경제 모델을 붕괴시켰습니다. 또한, 이제 우리는 부실한 오픈 액세스 정책이 출판 산업의 통합을 가속화하고, 품질 관리는 약화되면서도 더 많은 출판을 유도하는 경제적 유인을 만들어냈다는 사실을 알고 있습니다.
잠시 멈춰 인간의 이해, 학습, 그리고 지식의 진보에 무엇이 최선인지 생각해 봅시다. 검색 결과가 AI 요약으로만 나타나고 사용자가 원본 출처를 클릭하지 않으며, 단순히 즐거움을 위해 책을 읽는 행위가 급격히 감소하는 상황에서, 기계가 소비하는 콘텐츠만을 제작하고 게시하는 미래를 어떻게 피할 수 있을까요?
저는 연구의 영향력과 정직성을 뒷받침하는 데 있어 출판사가 하는 중요한 역할을 보존하고 보호하는 것이 가치 있다고 믿습니다. 특히 지금은요. 높은 유료 출판 수수료와 구독형 페이월(pay-to-publish)에 대한 불만, 특히 역사적으로 가격에 민감하지 않았던 학문적 명성 시장을 활용해 온 대형 출판사들의 불만을 잘 알고 있습니다. 하지만 우리 업계는 단일한 이윤 추구 기관이 아닙니다. MIT 출판부나 여러 과학 학회처럼 비영리 출판사들은 다른 가치관과 낮은 마진으로 운영됩니다.
실제로 우리는 AI의 토지 강탈, 그리고 때로는 우리가 오랫동안 지지해 온 개방 과학 운동에 더 큰 위협을 느끼고 있습니다. 따라서 우리는 권력 역학 관계를 무시하는 도덕적 태도에 저항해야 합니다. "개방"이라는 개념 주변에는 경제학이나 인센티브와 같은 현실 세계의 복잡성을 가리는 후광이 있습니다. 결국 모든 개방성이 미덕인 것은 아니며, 모든 개방성에 대한 저항이 방해적인 것도 아닙니다.
또 다른 오해는 출판사의 이익과 연구자의 이익이 일치하지 않는다는 것입니다. 우리는 최근 대규모 저자 조사 STEM 분야 전반에 걸쳐 LLM 교육에 자신의 저작물이 무단으로 사용되는 것에 대해 반대하고 있습니다. 대다수는 AI가 발견과 학습을 위한 혁신적인 경로를 약속한다고 믿으면서도 이러한 관행에 반대합니다. 그들은 이러한 사용에 동의하거나 동의하지 않을 수 있기를 기대하며, 자신의 저작물이 LLM 결과물에 반영될 때 출처를 명시하기를 기대합니다. 그들은 '열람 가능'과 '학습 가능'을 동일시하지 않습니다.
마찬가지로 많은 사람들이 대형 AI 기업의 정직성에 회의적이며, LLM이 출판, 독서, 글쓰기, 비판적 사고, 창의성에 어떤 영향을 미칠지, 다양한 관점을 평준화하고, 편견과 문화적 헤게모니를 강화할지는 우려합니다. 그들은 인간이 작성한 저작물을 토큰화된 훈련 데이터로 분해하여 맥락이나 주장을 보존할 수 없는 모델에 제공할 때 무엇이 손실될지 깊이 우려합니다.
출판된 과학 지식이 어떻게, 그리고 어떤 조건에서 LLM 교육에 활용되는지에 대한 질문은 단순히 저작권 문제만이 아닙니다. 지식의 미래를 누가 통제할 것인가에 대한 문제입니다. 연구계에 대한 책임은 거의 지지 않는 불투명하고 착취적인 산업에 권한을 이양해야 할까요? 아니면 출처 표시, 진실성, 그리고 지속가능성을 유지하는 시스템을 구축해야 할까요? 인류의 번영, 증거 기반 과학, 그리고 지식이 성장하는 환경을 보호하는 것을 진지하게 생각한다면, 연구계와 관련 기관들은 분별력을 가지고 나아가야 합니다.
출판된 과학과 학문을 착취적이고 불투명한 기술 분야에 제공하는 것이 누구의 이익에 부합하는 것일까요? 논리를 따라가 보세요. 저자, 기관, 그리고 자금 지원자들이 지불하는 오픈 퍼블리싱 수수료의 모든 가치는 결국 OpenAI와 Anthropic 같은 곳에 넘어갑니다. 착취 산업에 관해서라면, AI 분야의 가치가 학술 출판사의 가치와 어떻게 비교되는지 솔직하게 평가해 봅시다.
저는 신중한 계획과 증거 기반 정책을 통해 AI를 활용하여 동료 심사를 개선하고, 재현성을 높이며, 출판 워크플로와 비용을 간소화할 수 있을 것이라고 낙관합니다. 심지어 과학 출판의 긍정적인 측면을 유지하는 데 도움이 되는 솔루션을 구축할 수도 있을 것입니다.
하지만 출판된 기록이 동의 없이 채굴되고 민간 기술 대기업에 의해 수익화되는 현재의 패러다임은 과학과 학문에 비윤리적이고 파괴적입니다. 또한 이는 복잡한 세상이 어떻게 돌아가고 우리가 직면한 실존적 문제들을 해결하는 데 어떻게 실질적인 진전을 이룰 수 있을지에 대한 마법 같은 사고를 반영합니다.
책임 한계
게스트 블로그에 제시된 정보, 의견 및 권장 사항은 개별 기고자의 것이며, 반드시 국제 과학 위원회의 가치와 신념을 반영하는 것은 아닙니다.
미래의 오픈 사이언스 요약을 이메일로 직접 받아보세요. 지금 구독하기.
오픈 사이언스 최신 소식: 사전 출판물의 활용법에 대해 자세히 알아보세요 
오픈 사이언스 종합 보고서: 연구 시스템에 오픈 사이언스 인센티브를 통합하는 방법에 대해 자세히 알아보세요. 
출판 및 연구 평가에서 조정된 개혁을 추진하는 방법에 대해 자세히 알아보세요. 
