홈앤서비스 SK BROADBAND

114호 특집 〈AI는 생성하는가〉

『문화/과학』114호 특집에는 생성형 AI에 대해 탐색하고 분석하는 총 여덟 편의 글이 실렸다. 몇 마디의 프롬프트만으로도 전에 없이 독창적이고 놀라운 결과물을 생성하는 지금의 생성형 AI가 가졌다고 간주되는 인간적 창의성의 역량과 가능성에 대해 이 무작정 찬사와 환호를 보내기 이전에, 그것이 가지는 사회·문화적 의미와 한계 그리고 생성하는 역량에 대해 우선 예술, 노동, 교육, 젠더, 권력, 커뮤니케이션 등의 영역을 중심으로 질문을 던진다. 과연 지금 우리 앞의 AI는 진정으로 생성하는가?

이광석의 「404 시스템 에러: 생성형 AI가 인도하는 ‘멋진 신세계’」는 동시대 인공지능이 우리 사회에 미치는 영향을 크게 두 측면에서 우려한다. 하나는, 인간 사회관계를 ‘소셜(미디어)’ 관계로 흡수하고 대체하는 경향이며, 다른 하나는, 생성형 AI의 빠른 확산과 범용화로 인해 인간의 사유 과정과 대상 세계의 탐구 행위가 자동화 프로세스에 위탁되는 경향이다. 우리 스스로 사회적 판단, 숙의, 의사결정, 성찰적 질문 등을 생성형 AI에 의탁하면서 인간 ‘사회(의식)의 탈숙련화’가 극대화할 공산이 크기에, 이에 대항하는 기술 민주주의적 해법이 필요하다고 제안한다.

김상민의 「환각 생성과 창의성 추출의 자동화된 기계: 생성형 AI 뒤집어 보기」는 생성형 AI가 생성하는 것은 사실상 생성의 결과라기보다는 방대한 데이터 ‘추출’의 결과이며 ‘생성’이라는 용어는 사실 그것이 방대한 인간 커뮤니케이션, 정보, 대화, 지식으로부터 추출한 것들의 배치라고 주장한다. 나아가 생성형 AI가 가진 창의적 역량이란 사실 그것을 작동시키는 인간의 창의성을 지속적으로 요구하는 것이라는 점에서 생성형 AI는 창의성의 추출 기계가 된다는 점을 강조한다.

하승우는 「AI 머신 비전과 새로운 사회 권력」에서 챗지피티로 촉발된 생성형 AI에 관한 관심을 얼굴 인식, 원격 탐사, 킬러 드론 등으로 방향을 전환하면서, 동시대 자동화된 머신 비전(혹은 컴퓨터 비전)이 어떤 방식으로 새로운 사회적 권력으로 편성되고 있는지 주목한다. 아티스트들이 기계 시각이 작동하는 방식, 곧 ‘작동적 이미지(operational image)’를 어떻게 재전유했는지 살피면서, 인간과 기계의 시각을 ‘관계적’ 관점에서 살펴볼 것을 제안한다.

신현우의 「인공지능 자본주의 프론티어 비판: 인지자동화 시대 제3섹터 비인간 노동과 ‘탈중앙화 커먼즈’의 재구성」은 현재 인공지능 기술이 ‘대가속’에 진입해, 물리적 자동화뿐 아니라 ‘인지의 자동화’를 이루는 정점에 도달했다고 분석한다. 인공지능은 인간이 아니면서 생산수단도 아닌, 죽어있는 동시에 살아있기도 한 미지의 노동, 자본과 노동 사이의 제3 섹터 ‘비인간 노동’을 생성하는데, 여기서 중요한 것은 노동조합-시민조직에 기반한 블록체인 탈중앙화 네트워크, 인공지능의 커먼즈화를 통해 비인간 노동의 문제에 대항할 수 있는 코뮌-기술적 실천을 탐색하는 것이라고 본다.

김현준은 「생성형 AI는 무엇을 생성하는가?: 커뮤니케이션 생성 엔진」에서 AI의 ‘생성’과 ‘창의’란 사회기술적 상호작용의 ‘생성물’인 동시에 알고리즘 통치를 교묘하게 제어하고 관철시키는 논리가 될 수 있음을 지적한다. AI가 인간과의 상호작용을 통해 자본주의 기술체계에 의한 생활세계의 식민화를 추동하거나, 기술합리성(노동)과 의사소통합리성(언어)을 융합하는 제3의 조절매체로서 기능함으로써 알고리즘 규율권력과 불평등을 더욱 교묘하게 강화하며, 기술기업의 책임을 일반 사용자에게 전가하는 ‘커뮤니케이션 제어관리권력’이 되고 있다고 주장한다.

임태훈의 「쓰면 현실이 된다!: AI를 혁명적 현실 생성 도구로 사용하기」는 인공지능을 대안현실을 창조하는 기술체계로 전유하는 방식을 구체적으로 탐색한다. 초거대 AI모델이 지금에 이르는 데에는 빅테크 자본에 기반한 플랫폼 자본주의의 독과점이 선행되었음을 지적하면서, AI의 엄청난 생산성은 끝없이 휘발되는 텍스트, 이미지, 사운드, 그리고 예술과 창의노동 전체를 하향평준화 시킨다고 본다. 따라서 역사적으로 요청되는 것은 ‘글쓰기의 알고리즘적 잠재성’이며, 이 잠재성은 ‘텍스트/이미지의 픽셀 뭉치들을 모니터 밖의 혁명적 현실 생성 도구로 진화하는 길’에 대한 실험적 실천으로 이어져야만 한다고 역설한다.

강현주는 「생성형 AI 기술은 트랜스젠더의 오래된 농담을 이해할 수 있을 것인가?」에서 여성공학자로서 현재의 생성형 AI 기술에 대한 상황적 독해를 시도한다. 생성형 AI는 환각이나 편향성과 같은 오류를 본질적으로 가지고 있기에 인간의 다양한 전략과 맥락 사이에서 무엇이 참이고 거짓이며 숨겨진 의도가 무엇인지 파악할 수 없다는 점에서 한계를 가진다고 보며, 전유와 역설을 전략적으로 사용하는 소수자들의 비균질적이고 예측하기 어려운 말하기 방식이 오히려 인간과 기계의 새로운 관계맺음을 가능하게 만들 것이라고 주장한다.

김성우는 「생성형 AI의 부상과 리터러시 생태계의 변동: 변화의 지형과 비판적 메타-리터러시의 가능성을 중심으로」에서 텍스트 리터러시 연구자의 관점에서 생성형 AI, 특히 챗지피티가 대학교육의 맥락에서 리터러시에 미칠 영향을 살핀다. 리터러시 관행의 변화로서 AI를 매개로 한 읽기와 쓰기가 부상할 것이고, 리터러시 실천에 있어서 읽기와 쓰기의 순서가 전도되거나 나아가 실시간으로 통합될 것이며, 생산성 담론에 기반해 읽기와 쓰기의 속도가 변화할 뿐만 아니라, 나아가 학술적 글쓰기의 영역에서 저자성과 윤리의 문제에 대해 근본적인 질문이 제기될 것으로 본다.

114호를 내며: 생성하는 인공지능에 질문하기 / 김상민·하승우·신현우

특집 / AI는 생성하는가

21 404 시스템 에러: 생성형 AI가 인도하는 ‘멋진 신세계’ / 이광석
39 환각 생성과 창의성 추출의 자동화된 기계: 생성형 AI 뒤집어 보기 / 김상민
57 AI 머신 비전과 새로운 사회 권력 / 하승우
79 인공지능 자본주의 프론티어 비판: 인지 자동화 시대 제3섹터 비인간 노동과 ‘탈중앙화 커먼즈’의 재구성 / 신현우
102 생성형 AI는 무엇을 ‘생성’하는가?: 커뮤니케이션 생성 엔진 / 김현준
128 쓰면 현실이 된다!: AI를 혁명적 현실 생성 도구로 사용하기 / 임태훈
146 생성형 AI 기술은 트랜스젠더의 오래된 농담을 이해할 수 있을 것인가?: 젠더와 페미니즘 관점에서 생성형 AI 기술을 비판적으로 읽기 / 강현주
167 생성형 AI의 부상과 리터러시 생태계의 변동: 변화의 지형과 비판적 메타-리터러시의 가능성을 중심으로 / 김성우

특별 집담회

189 AI 창의성을 둘러싼 예술의 위기와 가능성 / 양아치·언메이크랩·장진승·임태훈·김상규

이미지 큐레이팅

229 양아치, 언메이크랩(최빛나-송수연), 장진승

동시대 분석

257 SM 경영권 분쟁의 구조적 이해와 케이팝 제작-자본의 변화 / 이동연
279 414 기후정의파업이 쏘아 올린 에너지 요금 논쟁: 기후위기 시대의 생태적 공공성을 묻다 / 한재각
293 포스트 코로나와 줌의 일상화: 네모난 창과 거리두기 / 맹미선

텍스트의 재발견

307 AI라는 시급한 문제 앞에서 필요한 지식인의 태도 / 안준형
- 백욱인, 『인공지능 시대 인간의 조건』

이론의 재구성

319 『인공지능 혹은 세기의 쟁점: 급진적 반인간주의의 해부학』 서문 / 에릭 사댕, 심소미·줄리앙 코와네 옮김