AI는 인류의 미래를 위협할 것인가
OpenAI의 ChatGPT 출시는 AI의 잠재력과 위험성에 대해 언론과 과학계에서 수많은 논평을 불러일으켰다. AI가 인간이 갖고 있는 지능을 능가하게 되면, 인류는 어떻게 될까? AI는 인류의 존재를 위협하게 될까?
AI 기업의 CEO들, 정치인들, 저명한 AI 연구자들은 이제 ChatGPT와 같은 도구가 인류에게 실존적 위협이 될 수 있다고 공개적으로 경고하고 있다. 일부는 ChatGPT가 사람과 같은 일반적 인공지능(AGI)의 첫 '불꽃'일 수 있다고 주장한다.
하지만 더 냉철한 많은 AI 전문가들이 지적했듯이, 대규모 언어 모델이 인간과 같은 주관적 경험을 가지고 있거나 앞으로 가질 것이라는 주장에는 과학적 근거가 없다 - 우리가 의식 있는 인간이나 개, 코끼리, 문어와 같이 지능과 감각이 함께하는 다른 생명체를 언급할 때 말하는 '내면의 삶' 같은 것 말이다.
우리가 감각에 대해 아는 모든 것은, 텍스트 입력 외에는 실제 세계와의 연결이 없는 대규모 언어 인공지능 모델과 양립할 수 없다. 감각은 감각운동 기관과 물리적 환경과 연결된 체화된 신경계를 통해 다차원적이고 시공간적으로 주변 세계를 감지하고 접촉을 유지하는 능력이 필요하다. 현실과의 이러한 연결 없이는 느낄 것도, 파악할 것도 없으며, 안정적인 주체로 형성될 현실도 없다.
그렇다면 AI는 전혀 걱정할 필요가 없다는 뜻일까? 인공지능 석학 얀 레쿤 교수와 같은 일부 AI 리더들은 그런 결론을 내린다. 그들의 관점은 오늘날의 AI가 AGI로 이어질 가능성이 낮기 때문에 인류에게 심각한 위협이 되지 않는다는 것이다. 안타깝게도 이런 기술 낙관론자들도 완벽히 맞다고는 할 수 없다. 위협은 분명히 존재한다. 우리는 단지 그 본질을 오해한 것 뿐이다.
인류의 생존은 AI에 의해 위협받지 않는다. 적어도 기계의 감각과 관련된 이유로는 그렇다. 하지만 멸종만이 유일한 위험은 아니다. 우리의 존재 방식을 선택하고 보존할 가치가 있게 만드는 인간적 능력을 잃는 것도 또 다른 위험이다.
외계인들이 내일 착륙해서 우리에게 선택권을 준다고 상상해보라:
선택지 A: 그들이 지구를 침공하고 우리는 저항하면서 운을 시험한다.
선택지 B: 그들은 독립적 사고나 창의적 비전이 없고, 과거의 패턴에서 벗어날 수 없으며, 기존 질서의 효율적 복제 이상의 동기가 없는 도플갱어들로 우리를 대체한 후에야 행성을 떠난다.
선택지 B가 과연 더 나은 선택일까?
우리가 걱정해야 할 것은 오늘날의 AI가 이런 무심한 도플갱어가 되는 것이 아니라 인류가 도플갱어같이 되는 것이다. 우리는 이미 ChatGPT가 결여하고 있는 인간적 능력을 기꺼이 조금씩 포기하고 있다.
AI 기반 글쓰기 앱을 홍보하는 사람들은 이야기의 가장 중요한 부분 - 이야기가 어디로 갈 수 있는지 구상하는 것 - 을 단순히 선택 가능한 미리 형성된 플롯 전개를 제시하는 AI 에게 넘겨주는 기회를 혜택으로 광고하고 있다. 사람들은 우리가 생각을 형성하고 표현하는 과제에서 해방될 수 있도록 ChatGPT를 우리처럼 글을 쓰도록 훈련시키는 방법을 보여주는 '혁신가들'에게 감사를 표하기 위해 줄을 서고 있다.
철학자 한스 요나스는 "행동 AI의 세계에서 미래의 자발성을 억제"하고 "모든 인간의 노력을 그들의 자비에 맡기는" 미래의 '기술지배체제'의 실존적 위험성에 대해 경고했다. 그는 이러한 것이 AI일지 사람일지 명확히 하지 않았다. 이 모호함은 의도적이었을 것이다.
기업들은 이제 수십 년 동안 재능을 연마해 온 각본가, 예술가, 변호사, 교사들을 우리의 사고 노동을 '그럭저럭' 흉내 낼 수 있는 AI로 대체하고 있다. 이러한 대체도 걱정스럽지만, 사고가 우리가 기꺼이 벗어나야 할 일이라는 점점 더 흔해지는 주장이 더욱 우려된다. 한 트위터 사용자가 말했듯이: 미래가 단순히 인간이 질문을 하고 다른 무언가가 답을 찾아내는 것이라면 어떨까?
그 미래는 독재자의 천국이다. 자치 - 단순한 능력이 아니라 우리 자신의 이야기를 쓰고자 하는 욕구와 의지 - 는 권력의 적이다. 인간의 자발적 결정 능력을 강제로 억압하는 것은 사람들에게 그들이 가진 보물이 가치 없다고 설득하는 것보다 훨씬 어렵다.
AI는 알고리즘 차별과 허위정보에서부터 증가하는 경제적 불평등과 환경 비용에 이르기까지 지금 당장 실제 문제를 일으키고 있다. 그리고 이러한 문제들은 시급한 해결책을 요구한다. 하지만 인류 없는 미래라는 측면에서 AI는 위협이 아니다. 사실, 우리와 함께 생각하는 의식 있는 AI가 있는 미래는 원칙적으로 그들이 없는 미래만큼이나 좋고 인간적일 수 있다.
문제는 오늘날의 AI 뒤에 있는 경제적 힘이 어떤 종류의 도덕적, 지적, 정치적 가치 체계를 지속하는 데 사용될 것인가이다.
AGI로 인한 실존적 위험에 대한 이야기는 우리 눈앞에서 일어나고 있는 것으로부터의 주의분산이다. 이것은 AI의 반란이 아니라, 인간적 사고의 정치적, 문화적 가치를 평가절하하려는 조용한 운동이다. 이 운동에는 우리의 존재 의미가 걸려 있다.
참고문헌
· AI becoming sentient is risky, but that’s not the big threat. Here’s what is…
https://www.sciencefocus.com/future-technology/will-ai-make-humans-dumber
· Future Of Human Rights In The Age Of AI
https://www.forbes.com/sites/hamiltonmann/2024/03/07/future-of-human-rights-in-the-age-of-ai/
· How will AI shape humanity’s future?
https://dornsife.usc.edu/news/stories/how-will-ai-shape-humanity/
필자_조종희
인문학과 과학기술이 만나는 지점, 특히 새로운 기술이 가져올 인류의 미래에 대해 관심이 많다. 현재 미국 최대은행인 JP모건체이스에서 마케팅 분석을 담당하고 있다. 그 전에는 포드자동차, 빅토리아 시크릿과 오라클에서 근무했다. 카네기멜론대학에서 MBA 학위를 받았다. 저서로는 "클라우드의 미래에 투자하라"가 있다.
AI는 인류의 미래를 위협할 것인가
OpenAI의 ChatGPT 출시는 AI의 잠재력과 위험성에 대해 언론과 과학계에서 수많은 논평을 불러일으켰다. AI가 인간이 갖고 있는 지능을 능가하게 되면, 인류는 어떻게 될까? AI는 인류의 존재를 위협하게 될까?
AI 기업의 CEO들, 정치인들, 저명한 AI 연구자들은 이제 ChatGPT와 같은 도구가 인류에게 실존적 위협이 될 수 있다고 공개적으로 경고하고 있다. 일부는 ChatGPT가 사람과 같은 일반적 인공지능(AGI)의 첫 '불꽃'일 수 있다고 주장한다.
하지만 더 냉철한 많은 AI 전문가들이 지적했듯이, 대규모 언어 모델이 인간과 같은 주관적 경험을 가지고 있거나 앞으로 가질 것이라는 주장에는 과학적 근거가 없다 - 우리가 의식 있는 인간이나 개, 코끼리, 문어와 같이 지능과 감각이 함께하는 다른 생명체를 언급할 때 말하는 '내면의 삶' 같은 것 말이다.
우리가 감각에 대해 아는 모든 것은, 텍스트 입력 외에는 실제 세계와의 연결이 없는 대규모 언어 인공지능 모델과 양립할 수 없다. 감각은 감각운동 기관과 물리적 환경과 연결된 체화된 신경계를 통해 다차원적이고 시공간적으로 주변 세계를 감지하고 접촉을 유지하는 능력이 필요하다. 현실과의 이러한 연결 없이는 느낄 것도, 파악할 것도 없으며, 안정적인 주체로 형성될 현실도 없다.
그렇다면 AI는 전혀 걱정할 필요가 없다는 뜻일까? 인공지능 석학 얀 레쿤 교수와 같은 일부 AI 리더들은 그런 결론을 내린다. 그들의 관점은 오늘날의 AI가 AGI로 이어질 가능성이 낮기 때문에 인류에게 심각한 위협이 되지 않는다는 것이다. 안타깝게도 이런 기술 낙관론자들도 완벽히 맞다고는 할 수 없다. 위협은 분명히 존재한다. 우리는 단지 그 본질을 오해한 것 뿐이다.
인류의 생존은 AI에 의해 위협받지 않는다. 적어도 기계의 감각과 관련된 이유로는 그렇다. 하지만 멸종만이 유일한 위험은 아니다. 우리의 존재 방식을 선택하고 보존할 가치가 있게 만드는 인간적 능력을 잃는 것도 또 다른 위험이다.
외계인들이 내일 착륙해서 우리에게 선택권을 준다고 상상해보라:
선택지 A: 그들이 지구를 침공하고 우리는 저항하면서 운을 시험한다.
선택지 B: 그들은 독립적 사고나 창의적 비전이 없고, 과거의 패턴에서 벗어날 수 없으며, 기존 질서의 효율적 복제 이상의 동기가 없는 도플갱어들로 우리를 대체한 후에야 행성을 떠난다.
선택지 B가 과연 더 나은 선택일까?
우리가 걱정해야 할 것은 오늘날의 AI가 이런 무심한 도플갱어가 되는 것이 아니라 인류가 도플갱어같이 되는 것이다. 우리는 이미 ChatGPT가 결여하고 있는 인간적 능력을 기꺼이 조금씩 포기하고 있다.
AI 기반 글쓰기 앱을 홍보하는 사람들은 이야기의 가장 중요한 부분 - 이야기가 어디로 갈 수 있는지 구상하는 것 - 을 단순히 선택 가능한 미리 형성된 플롯 전개를 제시하는 AI 에게 넘겨주는 기회를 혜택으로 광고하고 있다. 사람들은 우리가 생각을 형성하고 표현하는 과제에서 해방될 수 있도록 ChatGPT를 우리처럼 글을 쓰도록 훈련시키는 방법을 보여주는 '혁신가들'에게 감사를 표하기 위해 줄을 서고 있다.
철학자 한스 요나스는 "행동 AI의 세계에서 미래의 자발성을 억제"하고 "모든 인간의 노력을 그들의 자비에 맡기는" 미래의 '기술지배체제'의 실존적 위험성에 대해 경고했다. 그는 이러한 것이 AI일지 사람일지 명확히 하지 않았다. 이 모호함은 의도적이었을 것이다.
기업들은 이제 수십 년 동안 재능을 연마해 온 각본가, 예술가, 변호사, 교사들을 우리의 사고 노동을 '그럭저럭' 흉내 낼 수 있는 AI로 대체하고 있다. 이러한 대체도 걱정스럽지만, 사고가 우리가 기꺼이 벗어나야 할 일이라는 점점 더 흔해지는 주장이 더욱 우려된다. 한 트위터 사용자가 말했듯이: 미래가 단순히 인간이 질문을 하고 다른 무언가가 답을 찾아내는 것이라면 어떨까?
그 미래는 독재자의 천국이다. 자치 - 단순한 능력이 아니라 우리 자신의 이야기를 쓰고자 하는 욕구와 의지 - 는 권력의 적이다. 인간의 자발적 결정 능력을 강제로 억압하는 것은 사람들에게 그들이 가진 보물이 가치 없다고 설득하는 것보다 훨씬 어렵다.
AI는 알고리즘 차별과 허위정보에서부터 증가하는 경제적 불평등과 환경 비용에 이르기까지 지금 당장 실제 문제를 일으키고 있다. 그리고 이러한 문제들은 시급한 해결책을 요구한다. 하지만 인류 없는 미래라는 측면에서 AI는 위협이 아니다. 사실, 우리와 함께 생각하는 의식 있는 AI가 있는 미래는 원칙적으로 그들이 없는 미래만큼이나 좋고 인간적일 수 있다.
문제는 오늘날의 AI 뒤에 있는 경제적 힘이 어떤 종류의 도덕적, 지적, 정치적 가치 체계를 지속하는 데 사용될 것인가이다.
AGI로 인한 실존적 위험에 대한 이야기는 우리 눈앞에서 일어나고 있는 것으로부터의 주의분산이다. 이것은 AI의 반란이 아니라, 인간적 사고의 정치적, 문화적 가치를 평가절하하려는 조용한 운동이다. 이 운동에는 우리의 존재 의미가 걸려 있다.
참고문헌
· AI becoming sentient is risky, but that’s not the big threat. Here’s what is…
https://www.sciencefocus.com/future-technology/will-ai-make-humans-dumber
· Future Of Human Rights In The Age Of AI
https://www.forbes.com/sites/hamiltonmann/2024/03/07/future-of-human-rights-in-the-age-of-ai/
· How will AI shape humanity’s future?
https://dornsife.usc.edu/news/stories/how-will-ai-shape-humanity/
필자_조종희
인문학과 과학기술이 만나는 지점, 특히 새로운 기술이 가져올 인류의 미래에 대해 관심이 많다. 현재 미국 최대은행인 JP모건체이스에서 마케팅 분석을 담당하고 있다. 그 전에는 포드자동차, 빅토리아 시크릿과 오라클에서 근무했다. 카네기멜론대학에서 MBA 학위를 받았다. 저서로는 "클라우드의 미래에 투자하라"가 있다.