과학자와 연구자들은 미래 시나리오를 예측하는 데 기여하는 SF 소설의 가치를 점점 더 높이 평가하고 있습니다. 과학과 과학 시스템의 변화가 우리를 이끄는 방향을 탐구하는 임무의 일환으로, 과학 미래 센터 XNUMX명의 주요 SF 작가들과 함께 과학이 향후 수십 년 동안 우리가 직면하게 될 많은 사회적 과제를 어떻게 해결할 수 있는지에 대한 관점을 모았습니다. 팟캐스트는 다음과 파트너십을 맺었습니다. 자연.
다섯 번째 에피소드에서는 Qiufan Chen이 우리와 함께 인간의 노력으로서 과학의 주체성과 사회적 책임에 대해 논의합니다. Chen에게 이는 특히 인공 지능에 적용 가능합니다. 팟캐스트에서 그는 AI가 과학 연구의 미래에 미치는 영향과 AI 개발이 어떻게 더 규제되고 더 윤리적이 될 수 있는지에 대해 설명합니다.
치우판 첸
Qiufan Chen은 수상 경력이 있는 중국 사변 소설 작가이자 황무지의 조수 및 공동 저자 AI 2041: 우리의 미래를 위한 XNUMX가지 비전. 그는 또한 예일 대학교의 연구 학자이자 미국 Berggruen Institute의 연구원이기도 합니다. 우리의 주요 토론은 인공 지능을 중심으로 하며, 이 기술이 제기하는 위험을 피하면서 이 기술의 힘을 어떻게 활용할 수 있는지에 대해 다룹니다.
폴 슈리바스타바(00:04):
안녕하세요, 저는 펜실베니아 주립대학교의 Paul Shrivastava입니다. 그리고 이 팟캐스트 시리즈에서 저는 오늘날 최고의 SF 작가들과 이야기를 나누고 있습니다. 나는 과학의 미래에 대한 그들의 견해와 앞으로 우리가 직면할 과제를 해결하기 위해 과학이 어떻게 변모해야 하는지 듣고 싶습니다.
치우판 첸(00:24):
미래에는 AI가 우리 자신을 거울로 비추어 더 나은 인간이 되도록 돕는 데 사용될 수 있을 것입니다.
폴 슈리바스타바(00:33):
오늘 저는 수상 경력이 있는 중국 작가 Qiufan Stanley Chen과 이야기를 나누고 있습니다. 나는 그의 소설을 읽었다. 황무지의 조수 수년 전 전자 폐기물의 곤경에 대한 그의 묘사에 깊은 인상을 받았습니다. 그의 최근 공동저서 AI 2041: 미래의 10가지 비전, 상상력이 풍부한 이야기와 과학적 예측을 생생하게 결합합니다. 우리는 인공 지능에 대해, 그리고 이 놀라운 기술의 힘을 활용하는 동시에 이로 인한 위험을 피할 수 있는 방법에 대해 많은 이야기를 나눴습니다.
우리와 함께해주셔서 정말 감사합니다, 스탠님. 환영. 당신이 숙달한 과학 주제의 범위가 정말 주목할 만하다는 것은 놀라운 일입니다. 어떻게 이런 과학적인 주제에 관심을 가지게 되었나요?
치우판 첸(01:28):
그래서 공상과학 팬으로서 나는 그 모든 것에서 시작했다는 것을 인정해야 합니다. 스타 워즈, 스타 트렉, 쥬라기 공원, 고전 SF 영화와 책, 옛날 애니메이션. 매번 그것은 나에게 많은 새로운 영감과 아이디어를 주었다. 그래서 저는 항상 이 모든 징후, 미래에 대한 상상, 우주 공간, 심지어 수백만 년 전의 종들에 완전히 매료되었습니다. 그래서 우리가 어떻게 그들을 다시 살아나게 했는지.
폴 슈리바스타바(02:02):
그래서 과학은 아주 오랫동안 진행되어 왔습니다. 인간의 노력으로서의 과학에 대한 당신의 일반적인 견해는 무엇입니까?
치우판 첸(02:13):
나에게 그것은 확실히 큰 성과이다. 그리고 물론 그것은 우리가 인간으로서 더 나은 조건에서 살 수 있게 해줍니다. 그리고 역사를 되돌아보면 많은 어려움이 있었다는 점을 인정해야 합니다. 왜냐하면 에이전시가 절대적으로 인간의 손에 있지 않은 것처럼 느껴지기 때문입니다. 때때로 저는 과학과 기술이 일종의 종이나 생물학적 존재처럼 그 자체의 목적을 가지고 있다고 생각합니다. 그것은 자신의 탄생 생활주기를 가지고 있습니다. 인간과 함께 존재하고 진화하기를 원합니다. 그래서 우리는 숙주와 같고 그들은 바이러스와 같습니다. 우리는 그것을 그렇게 볼 수도 있고 그 반대로 볼 수도 있습니다. 그래서 저는 항상 과학과 인간 사이에 깊은 얽힘이 있다고 느낍니다. 그래서 과학기술의 발전으로 인해 우리가 많이 변했다는 생각이 들 때도 있지만, 우리 앞에 놓인 방향은 무엇인지 전혀 알 수 없습니다.
폴 슈리바스타바(03:24):
자, 좀 더 구체적으로 설명하고 지금 당장 가장 염두에 두고 있는 것이 인공지능인지에 집중해 보겠습니다. AI의 발전을 어떻게 보장하고 사회 정의와 윤리적, 도덕적 고려 사항을 반영할 수 있습니까?
치우판 첸(03:40):
문제는 우리가 부정적인 일이 발생하는 것을 윤리적으로 방지하기 위한 이러한 종류의 규제와 프레임워크를 구축하기 위해 충분한 투자를 하지 않았다는 것입니다. AI, 특히 대규모 언어 모델에서는 더 많은 다양성이 필요하다고 생각합니다. 왜냐하면 우리는 구체적으로 정렬에 대해 이야기하고 있기 때문입니다. 그래서 서로 다른 나라, 문화, 언어를 가진 인간들 사이에서도 우리는 이러한 공통된 정렬을 단일한 기준으로 갖고 있지 않았습니다. 그렇다면 기계인 AI가 인간의 가치 체계나 하나의 통합된 표준에 부합하도록 어떻게 가르칠 수 있을까요? 그래서 저는 이것이 매우 예비적인 것이라고 생각합니다. 하지만 핵심 의견은 기술 회사, 엔지니어, 업계에서 일하는 모든 사람들뿐만 아니라 인류학, 심리학, 사회학과 같은 학제간 세계에서도 나와야 한다고 생각합니다. AI는 사람을 위해, 사람에게 봉사하기 위해 만들어지기 때문에 인문학의 좀 더 다양한 관점이 필요합니다. 하지만 지금 당장은 인적 요소가 루프에 상당히 빠져 있다는 느낌이 듭니다.
폴 슈리바스타바(05:11):
그렇다면 이러한 기술적 진보가 미래의 과학 수행 방식을 어떻게 변화시킬 것이라고 생각하시나요?
치우판 첸(05:19):
과학자들이 AI를 사용하여 새로운 패턴을 찾고, 단백질 구조를 예측하고, 엄청난 양의 데이터 내에서 상관 관계를 찾을 수 있는 것은 완전히 새로운 패러다임 전환이라고 생각됩니다. 나는 이것이 뭔가 혁명적인 일이 될 것이라고 생각한다. 하지만 이 과정에서 우려되는 점도 많습니다. 예를 들어, 우리는 지금 수백만 개의 단백질 구조를 예측할 수 있지만 문제는 이러한 모든 단백질 구조 예측 중 몇 퍼센트가 실제 질병과 실제 인체에 유효하고 효과적인가 하는 것입니다. 그리고 또 다른 점은 이 모든 혁명적인 영역이 엄청난 양의 데이터 세트를 축적하는 데 중점을 두고 있다는 것입니다. 이 데이터는 어떤 그룹에서 수집되나요? 어떤 종류의 인구입니까? 그리고 그들은 이 데이터를 통지와 함께 공유하고 있습니까? 모든 것이 사용되었습니다. 그리고 우리는 서로 다른 과학자나 연구자 그룹 간에 데이터를 공유하고 있습니까? 따라서 저는 이것이 항상 위험과 과제를 최소화하기 위해 이러한 종류의 균형 조정 시스템을 구축하는 동시에 시장의 요구를 실제로 충족하고 사람들에게 최고의 이익을 제공할 수 있는 방법에 관한 것이라고 생각합니다.
폴 슈리바스타바(06:56):
네, 견제와 균형 시스템을 구축하는 것이 AI 개발의 중요한 부분이라고 생각합니다. 그러나 인공지능 자체가 환경에 미치는 영향은 공공과학 서사에서 거의 언급되지 않습니다.
치우판 첸(07:13):
이것은 매우 역설적인 일입니다. 왜냐하면 AI에는 너무 많은 전력이 필요하기 때문입니다. 그리고 실시간 계산이 필요합니다. 환경에서 너무 많은 추출이 필요합니다. 하지만 그 동안 우리는 이를 사용하여 위성에서 발생하는 산불을 감지할 수 있습니다. 우리는 생물다양성을 보호하기 위해 그것을 사용할 수 있습니다. 우리는 이를 배터리의 에너지 저장, 스마트 그리드, 심지어 미래의 핵융합 기술과 같은 새로운 솔루션을 찾는 데 사용할 수 있습니다. 따라서 올바른 방법으로 사용하면 분명히 우리를 보호하고 기후 변화에 맞서 싸울 수 있습니다.
폴 슈리바스타바(08:03):
미래에는 AI가 인간이 이해할 수 있는 것보다 더 많은 것을 이해할 것이라고 생각하시나요?
치우판 첸(08:13):
그래서 제가 생각한 것은 인간을 넘어서는 대형 모형과 같은 어떤 모형입니다. 예를 들어, 데이터는 동물, 식물, 곰팡이, 심지어는 미시적 환경과 전체 환경에서 나온 것입니다. 그래서 우리는 전체 지구 모델에 대해 이야기하고 있습니다. 우리는 이런 종류의 센서 레이어를 전 세계에 배포해야 합니다. 따라서 Lem의 소설 The Invincible에서 언급된 스마트 더스트를 사용할 수도 있습니다. 그래서, 당신은 이 모든 작은 먼지 떼에 대해 이야기하고 있습니다. 기본적으로 그것은 집단 지성입니다. 그리고 인간은 이런 종류의 대형 모델로부터 많은 것을 배울 수 있습니다. 왜냐하면 감각 체계와 인간을 넘어서는 무언가를 인식하는 데 도움이 되기 때문입니다. 그러면 우리는 덜 인간 중심적이 될 수 있고 다른 종에 대해 더 많은 연민을 가질 수 있습니다. 그리고 아마도 그것이 기후 변화에 맞서 싸울 수 있는 해결책이 될 것입니다. 왜냐하면 우리는 다른 종이 어떻게 느끼는지, 이 모든 고통, 이 모든 고통, 이 모든 희생이 유형적이고 실제적인 것일 수 있다는 것을 느낄 수 있기 때문입니다.
폴 슈리바스타바(09:36):
아주 멋진. 인간 모델에서 인공 지능을 상상하는 것은 실제로 인공에 대해 생각하는 열등한 방법입니다. 더 나은 방법, 전 세계 모델이라고 부르는 것이 개발하는 방법입니다.
치우판 첸(09:54):
응. 그래서 이것은 나에게 불교를 생각나게 합니다. 왜냐하면 불교에서는 모든 지각 있는 종들이 가능한 한 평등하고, 인간이 다른 사람들보다 우월하다고 여겨지는 것은 없기 때문입니다. 그래서 저는 불교와 도교의 모든 철학과 가치를 기계에 내장할 수 있는 방법을 찾아야 한다고 항상 생각하고 있습니다.
폴 슈리바스타바(10:27):
그렇다면 당신이 AI의 기술적 요소를 이해하고 있는지 궁금합니다. AI를 불교, 도교에서 훈련할 수 있나요? 모든 책과 가치가 이미 성문화되어 있기 때문입니다. 당신이 원한다면 그들을 훈련시키고 합성 세계 종교를 만드는 AI를 찾는 것이 가능합니까?
치우판 첸(10:50):
그것은 분명히 그럴 수 있고, 세상의 어떤 승려나 스님, 구루들보다 더 나은 일을 할 수 있습니다. 왜냐하면 지식이 풍부하기 때문입니다. 그러나 도교의 수행자로서 이 모든 것에 대한 종합적인 이해를 넘어서는 것이 있습니다. 이를 종교적 또는 영적 경험이라고 부르는 것은 신체에 있는 것입니다. 그래서, 당신은 이 모든 육체적인 숙제를 해야 합니다. 그래서 저는 이것이 여전히 AI가 부족한 것이라고 생각합니다. 예를 들어 그것은 몸도 없었고, 복잡한 감각 체계도 없었고, 자기 인식도 없었습니다. 그리고 그 모든 부분이 인간을 인간답게 만드는 것이라고 생각합니다. 미래에는 AI가 우리 자신을 거울로 비추어 더 나은 인간이 되도록 돕는 데 사용될 수 있을 것입니다.
폴 슈리바스타바(11:49):
당신의 상상 속에서 AI는 영혼을 가질 수 있을까?
치우판 첸(11:54):
의식의 출현은 기본적으로 현재 과학계의 미스터리입니다. 그래서 저는 고전적 또는 양자물리학 복잡성 시스템의 모든 창발 현상과 대규모 언어 모델 창발 능력 사이에 확실히 어떤 연관성이 있다고 느낍니다. 그래서 저는 수학적으로 언젠가는 의식의 존재를 증명할 수 있을 것이라고 생각합니다. 하지만 그것은 0이나 1의 상태가 아니라 계속되는 상태의 스펙트럼과 같습니다. 즉, 바위나 나무, 심지어 강이나 산에도 어느 정도 의식 수준이 있지만 우리는 너무나 인간 중심적이기 때문에 그것을 인식하지 못했다는 뜻입니다. 그러나 그것은 모두 계산에 관한 것입니다. 그것은 시공간 압축에 관한 것입니다. 정보 보존에 관한 것입니다. 그래서 그것은 엔트로피의 감소에 관한 것입니다. 그래서 그것은 인식론적인 질문은 아니지만 존재론적인 질문이라고 생각합니다. 그래서 그것은 존재에 관한 것입니다.
폴 슈리바스타바(13:14):
UC San Diego의 Arthur C. Clarke 인간 상상력 센터와 협력하여 진행된 국제 과학 위원회의 과학 미래 센터에서 진행하는 이 팟캐스트를 들어주셔서 감사합니다. 미래 과학 미래 센터의 더 많은 연구 결과를 알아보려면 futures.council.science를 방문하세요. 이는 과학 및 연구 시스템의 새로운 동향에 초점을 맞추고 더 나은 정보에 입각한 결정을 내릴 수 있는 옵션과 도구를 제공합니다.
펜실베이니아 주립대학교 경영 및 조직 교수인 Paul Shrivastava가 팟캐스트 시리즈를 진행했습니다. 그는 지속 가능한 개발 목표 이행을 전문으로 합니다. 팟캐스트는 샌디에이고 캘리포니아 대학교의 Arthur C. Clarke 인간 상상력 센터와 공동으로 진행됩니다.
이 프로젝트는 다음에 의해 감독되었습니다. 마티유 드니스 그리고 가지고 다니는 동류, 로부터 과학 미래 센터, ISC의 싱크탱크입니다.
책임 부인
게스트 블로그에 제시된 정보, 의견 및 권장 사항은 개별 기여자의 것이며 반드시 국제 과학 위원회의 가치와 신념을 반영하는 것은 아닙니다.
Cory Doctorow와 함께하는 팟캐스트: SF와 과학의 미래: 미래를 위한 디지털 발전 활용에 대해 자세히 알아보세요. 
Fernanda Trías와 함께하는 팟캐스트: SF와 과학의 미래: 에코 디스토피아로부터의 교훈에 대해 자세히 알아보세요. 
Vandana Singh과 함께하는 팟캐스트: 공상 과학 소설과 과학의 미래: 데이터, 내러티브, 초학문성에 대해 자세히 알아보세요. 