Q. 1

김남시

AI 기술에 대한 윤리규정을 논의하고 마련하는 건 중요하지만, AI를 사용하는 일반인에게 처음부터 “윤리의식”을 내세우는 건 과장되어 보입니다. 그 이유는 첫째, AI 기술의 윤리적 문제는 먼저 AI 기술을 개발하는 기업 차원에서 규제, 제어해야 할 요소들이 많기 때문입니다. 그를 간과한 채 개인 사용자에게 ‘윤리의식’을 요구하는 건 정당하지 않습니다. 둘째, 모든 새로운 기술은 역사적으로 새로운 윤리적 문제를 제기해왔으며 이에 대한 타당한 평가를 위해서는 그 기술을 사용하는 사회적 경험이 필요합니다. 새로운 기술의 가능성과 위험성을 제대로 가늠하기 위해서라도 처음부터 ‘윤리의식’을 내세워 그 가능성의 시도를 차단하는 건 바람직하지 않다고 생각합니다.

김다슬

키워드:
기업, 플랫폼, 엔지니어, 사용자, 사회, 정치, 제도, 이익충돌, 빛과 그림자, 그림자 노동, 유령, 편향, 저작권, 환경, 모든 개인, 투명, 책임, 가치, 지속가능, 구조, 주체의 위치, 방향과 맥락, 누구를 위한, 어떤 기준, ?

김을지로

- 기업 및 제도적 차원: 데이터를 수집하는 과정에서, 사용자에게 구체적인 이용허락을 요구하지 않은 채로 뭉뚱그려 현존하는 정보들을 폭식하려는 경향이 비윤리적이라고 생각합니다. (ex. 트위터(X)의 Grok AI학습)
보다 구체적인 절차를 통해 데이터를 수집하거나 응당한 대가를 지불하는 방식으로 데이터를 수집할 방법은 없을지 묻고 싶습니다. 기업의 얼굴을 하고있는 생성형 AI가 어떤 문제가 일으켰을 때, 적확한 해결 방법을 추적하기 위해서도 필요한 절차이지 않을까. 한편으론 책임지고 싶지 않아서 모호한 위치를 고수하는 걸까 싶기도 합니다.

- 창작자와 소비자에게: 다른 창작자가 만들어낸 저작물을 무단으로 파생시키기 간편해졌다는 점에서 비윤리적으로 사용될 위험을 안고 있습니다.
기술의 발전으로 창작과 노동의 양상이 무수히 많은 유형으로 공존하고 있는 사회이지만, 기창작된 어떤것의 뉘앙스를 훔치는 일은 지양해야 합니다. 재귀적 자기복제는 결국 창작의 순수한 열망 자체를 위협할 뿐아니라, AI로 생성되지 않은 이미지조차 의심받게 만들며 서로를 경직시키고 있습니다.
열화된 이미지의 양적 증가는 감각의 둔화를 가속시키고, 사회/문화안에서 유통되는 이미지들의 평균적인 질을 낮추게 되지 않을까 우려됩니다.

- 블랙박스가 낳는 리터러시 양극화: 생성형 AI로 무언가를 추출하고자 할 때, 근거가 되는 정보들은 질문자의 요청에 따라 통계적, 합성적 과정을 거치며 인풋의 결백함을 더 이상 추긍할 수 없는 경로로 희석된다는 지점이 비윤리적으로 느껴집니다.
질문과 응답이라는 구조가 마치 진실인 것처럼, 심지어는 AI씩이나 되는 선진된 문명 기술이 점지해준 이상적인 산출물로 취급되기까지 하는 데이터들이 사실상 조작가능한 질문과 답변이라는 부분에서 경계심이 듭니다.
물론 생성형 인공지능이 가져오는 새로운 이점들도 많이 있겠으나, 빠른 발전은 지식의 양극화를 심화시키는 것 같습니다. 생성형 인공지능의 도입과 활용은 어르신과 어린이에게 왜곡된 사실이 전파되는 것을 어떻게 방지할 수 있을지를 기준으로 심도 깊게 논의되어야 한다고 생각합니다.

남민오

나는 현시대의 생성형 AI가 생성한 이미지에 관해, 시간을 거슬러 먼 시대의 이야기로 시작해 보고자 한다. 고대 그리스에는 자신을 지혜로운 자라고 칭하는 이들이 있었고, 그들을 소피스트라고 불렀다. 그들은 광범위한 분야에서 활동하며 변론과 수사학을 가르쳤다. 소피스트에게는 당장의 논쟁에서 상대방을 설득하는 것이 최우선 과제였다. 그들은 행동의 결과나, 파급력 같은 것에는 관심이 없었다. 필요하다면 거짓말과 논리적 오류 그리고 궤변을 동원해도 무관했다. 이들은 고대 그리스뿐만 아니라 로마에서도 등장했고, 오늘날 미디어에서도 어렵지 않게 볼 수 있다. AI에 의해 이미지를 생성하고 전파하는 일은 고대 그리스 소피스트의 행태와 유사하다. 물론 이를 현대 자본주의와 신자유주의를 기반한 효율 추구와 능력주의로 설명할 수도 있을 것이다. 하지만 능력주의는 ‘현대의 신’이라고 볼 수 있는 자본을 추구하며, 그것의 교리인 효율성과 예측가능함을 신봉한다는 점에서 고대 그리스 시대에 진리를 추구하던 자들과 다르지 않다. 여러 공통점에도 불구하고 능력주의자가 계량화할 수 있는 지표를 중시하는 것과 달리, 소피스트는 당대의 ‘진리 추구’에는 무관심하다는 결정적인 차이가 있다. 또한 소피스트는 설득을 통한 즉각적인 반향을 기대한다는 점에서 동시대 이미지 생산자들과 닮아있다. 그들의 말, 그리고 오늘날 이미지의 진위와 질은 결정적으로 중요하지 않다. AI는 언제나 답을 준다는 점 또한 소피스트-지혜로운 자, 그에 반해 철학자는 지혜를 추구하는 자-와 닮았다. 나아가 이미지 생산은 필연적으로 효율적이지 않고, 이미지 자체를 계량화 또는 평가하기 어렵다-그래서 많은 경우 엄청난 비효율성에도 불구하고 이미지 생성 AI는 결과물로 여러 장을 제안한다.

생성형 AI가 생산하는 수많은 이미지는 과거 소피스트가 진리 추구를 무력화시켰던 것과 마찬가지로, 현대의 자본, 능력, 권위에 대한 맹종을 우습게 만들 것이다. 데이터 독점과 저작권의 보호가 무력해지고 있다. 지금도 여러 플랫폼은 자신의 데이터를 보호하고, 원본성이 결여된 콘텐츠의 업로드를 막기 위해 분투하고 있지만, 생성 기술이 발전할수록 방어는 더욱 어려워질 것이다. 기술적, 문화적 과도기를 거쳐, 다수의 사람이 이미지를 기록하고 편집하는 것을 넘어 생산할 수 있게 된다면, 이미지 소비사회에서 소비할 수 있는 것이 사라질 것이다. 물론 이렇게 반문할 수 있다. 어떤 기술을 모두가 편리하게 활용할 수 있다고 하더라도, 그것을 늘 활용하는 것은 아니다. 하지만 중요한 것은 그것을 ‘할 수 있다’라는 것을 안다는 점이다. 2010년 후반, 스마트폰 보급률이 100%에 육박하게 되자, 모두가 사진을 촬영할 수 있게 되었다. 그러자 모두가 사진을 촬영하지 않더라도 사진 이미지가 가진 권위는 하락하면서, 동시에 영향력은 커졌다. 사진의 경우, 대상이 있는 이미지에 한정되었다면, 생성형 AI 이미지는 대상이 없는 이미지에도 영향을 끼친다. 대상이 없는-정확히는 대상에 관심이 없는-이미지의 총체가 이미지 소비사회라면, 생성형 AI와 그것이 생산하는 이미지는 해당 사회의 이데올로기에 의문을 던질 것이다.

소피스트는 기원전 5세기, 페르시아 전쟁 이후 민주정이 번성하면서 함께 힘을 얻었다. 그들이 힘을 잃어버린 시기는 펠로폰네소스 전쟁 이후 그리스 폴리스들이 힘을 잃고, 아테네의 민주정이 약화하면서 같이 몰락했다. 한동안 이들은 공동체의 적이자 궤변가로 여겨졌지만, 이제는 소피스트에 대한 재평가가 여러 차례 이루어져, 그들이 정치, 사회, 철학적인 측면에서 일견 현대적인 면모가 부각된 면이 있다. 따라서 그들의 행태에서 오늘날 어떤 쓸모를 찾는 것은 어렵지 않을 것이다. 하지만 소피스트의 말과 생성형 AI 이미지 사이에는 결정적 차이가 있는데, 이는 당연한 것이지만 그들의 형식에서 온다. 소피스트의 말이 당장의 효력을 위해 사용되고, 이후에 가치가 없어져도 무관한 것이라면, 이미지는 근원적으로 기억 혹은 연상, 그로 인한 연속성을 소환한다. 특히 생성형 AI, 그리고 그것이 만들어내는 이미지는 데자뷰를 소환하는데, 이 얼룩은 너무 적은 지연시간, 잦은 장면전환과 빠른 트랜지션 속에 지워지지 않는, 화면에 비친 자신의 모습과도 같은 익숙한 낯섦일 것이다. 이 데자뷰의 균열을 따라, 오늘날의 지배적 가치에 의문을 던지는 소피스트적 이미지는 마침내 그것을 바라보는 사람들로 하여금 대상이 없다는 것이, 그 대상의 맥락이 없다는 것이 낯설게 만들 것이다. 저 스크린에 비친 것은 누구인가? 그들의 의문은 확장되어 결국 모든 동시대 이미지에서 이미지의 본질, 즉 이타성을 환기할 것이다. 그리고 그 조짐은 이미 일어나고 있다.

박세영

공통 질문 중에 1번 질문과 3번 질문 두 가지 질문이 어쩌면 느슨하게 연관되어 있다는 생각이 들었습니다. 딥 페이크 이미지와 같은 이미지 생성형 AI를 다룰 때 필요한 윤리의식이 어떤 주체의 위치에서 어떤 방향과 맥락으로 작용하는지 이야기 하려면 그 성격과 특성을 규정하는 것이 필연적으로 우선되어야 한다고 느꼈습니다. 그래서 질문 3번으로 시작해 자연스럽게 질문 1번에 대한 답을 해보려고 합니다.

딥 페이크 이미지를 떠올렸을 때, 무관심한(indifferent)과 냉담한(callous)이라는 단어가 가장 적합한 설명을 이끌어낼 수 있다고 생각해왔습니다. 딥 페이크 이미지는 분명 현실의 이미지(대다수의 경우에 인물을 포함한 이미지)를 바탕으로 하여 만들어진 것임에도 불구하고 현실의 이미지 속 피사체들에게 굉장히 무관심(정색)합니다. 딥 페이크 이미지를 생성하는 사람들에게 현실에서 피사체들이 어떤 구도로 어떤 장소에서 어떤 포즈를 취하고 사진이 찍혔는지는 관심의 대상이 아닙니다. 딥 페이크 이미지를 생성하는 사람들은 오히려 피사체가 누구인지에 초점을 맞출 가능성이 높습니다. 여기서 그치지 않고 이런 생성자들의 무관심한 상태가 이 냉담한(callous) 정도로까지 변했을 때 딥 페이크 이미지를 생성하는 것은 더 이상 놀이의 범위에 위치하지 않고, 범죄의 범위에 위치하게 되는 것입니다. 그렇기 때문에 중요한 것은 딥 페이크 이미지와 같은 생성형 AI를 활용해 만든 이미지를 만들 때, 이미지 속 피사체에게 관심을 충분히 가지며 공감대를 형성하는 것입니다.

그래서 저는 질문 1번에서 ‘각자의 위치에서 실천 가능한 윤리에 대해 구체적으로 사고하고, 이를 공유하며 확장해 나가는 일’이 중요하다 생각한다고 말씀해 주셨을 때 매우 반가웠습니다. 현재 생성형 AI와 이를 통해 생성된 이미지들에 대한 정책적, 법적 차원의 논의는 비교적 활발하게 이루어지고 있다고 생각합니다. 그러나 정작 개인적 차원에서의 논의는 더딘 수준이라고 느껴집니다. 이미지 생성형 AI는 일정 비용을 들이면 (혹은, 비용을 전혀 들이지 않아도) 남녀노소 누구나 사용할 수 있기 때문에 개인적 차원에서 실천 가능한 방안들이 가장 중요하게 다루어져야 합니다. 이러한 방안들은 정책적, 법적 차원의 방안들이 필연적으로 수반하는 회색지대를 줄이는 방향으로 작동해야 합니다.

그러나 주체가 누구인지 어떤 차원인지와는 무관하게, 타인의 권리를 침해하지 않는다는 기준은 절대 소거되어서는 안된다고 생각합니다. 이는 예술적 차원이라면 원작자가 존재하는 작품을 생성형 AI에 학습시킬 때 구체적인 이용 목적을 명시한 후 동의를 받아 이용한다는 것이 되겠고, 정책적/법적 차원이라면 해당 이미지로 인해 피해를 본 피해 당사자에게 집중하여 피해에 대한 회복을 지원하는 것이 될 것입니다.

종합하자면, 저는 이미지 생성형 AI를 다룰 때 필요한 윤리의식은 우리 모두가 가져야 한다고 생각합니다. 이렇게 모두가 윤리의식을 가지고 있는다면, 결국 이 윤리의식은 이미지 생성형 AI에 영향을 받는 모든 인간들과 비인간들에게 향할 것이고 이를 통해 서로가 서로에게 의지하며 연결감을 느낄 수 있게 될 것입니다. 이러한 연결됨을 통해 딥 페이크라는 기술이 가진 무관심함과 냉담함을 넘어설 수 있을 것이라 봅니다.

조소연

저는 이미지 생성형 AI를 다룰 때 개개인의 윤리의식을 기대할 수 없다고 생각합니다. 이미지 생성형 AI 사용자 중 95%는 적절한 윤리의식을 가지고 이를 본인이 원하는 적재적소에 사용하겠지만, 5%에서는 분명 문제가 발생할 것입니다. 수많은 사용자의 호기심 하나하나가 모두 건전할 것이라고 기대할 수 없기 때문입니다. 따라서 윤리의식은 개인에게 기대할 것이 아니라 결국 이미지 생성형 AI를 만드는 기업에 의해, 엄격한 규제를 통해서 생성되어야 할 것입니다. 자살 관련 문답이나 개인의 신상 정보 관련 문답은 ‘대답할 수 없다’라고 말하도록 설계된 ChatGPT의 사례처럼, 이미지 생성형 AI를 만드는 기업 주도의 적극적인 가이드라인 설계가 필요합니다. 그리고 이를 기반으로 저작권물 활용에 있어서 엄격한 통제가 발생되어야만 그 이후 개개인의 윤리의식이 뒷받침될 것이라고 생각합니다. 인간에게도 이미지 생성형 AI는 처음 만나는 기술이고, 적응하는 데 시간이 걸릴 것입니다.

또한 기업이 만드는 가이드라인은 무엇보다도 기존의 인간 저작권자를 위해 작동해야 합니다. 예를 들어 최근 지브리풍 이미지 생성 열풍이 불었습니다. 저작권법이 시시비비를 가리기 어려운 만큼 '지브리풍'이라는 단어를 (우리 모두가 그 추상적인 분위기를 알고는 있지만) 구체적으로 정의하여 법적, 행정적 용어로 정리하기는 쉽지 않습니다. 누군가가 지브리를 따라 한다고 하더라도 그것을 실제로 증명해 내서 지브리 스튜디오의 담당자가 실질적으로 배상을 받기는 쉽지 않을 것입니다. 따라서 이 부분에 있어서는 저작권자 개인이 아니라, 이미지 생성형 AI를 만드는 기업이 적극적으로 선제적인 방어를 해야 한다고 생각합니다.

하지만 기업 역시 이윤을 추구하는 입장이기에 그러한 가이드라인을 먼저 제시하기는 어려울지도 모릅니다. 예컨대 지브리풍 이미지를 생산해 내면 ChatGPT의 사용자가 폭증할 텐데 이걸 선제적으로 규제해 버리는 건 어려운 일일 것입니다. 따라서 정부 차원에서 적극적으로 기업을 규제하고 감시하는 행위가 필요하다고 생각합니다. 정리하자면, 개개인의 양심에 기대기 어렵고 증명해 내기도 어려운 이미지 저작권의 세계에서는 정부, 공권력이 주체가 되어 기존의 원저작자의 저작물이 최대한 침해되지 않고 보호될 수 있는 방향으로 강력한 규제가 이루어져야 합니다. 그래야만 기술이 인간을 넘어서서 인간 고유의 영토까지 침범하는 모순적인 일을 막을 수 있을 것입니다.

한상임

AI 기술과 관련한 윤리는 단일한 차원에서 정의될 수 없습니다. 방법론적·인식론적·정치적 층위가 서로 얽혀 있기 때문에, 윤리 주체 역시 복수일 수밖에 없습니다. 알고리즘을 설계하는 개발자, 데이터를 제공하는 개인이나 집단, 이를 활용하고 소비하고 비판적으로 읽어내는 창작자와 관람자 모두가 윤리적 책임을 나눠 집니다.

저는 이 책임을 단순한 규제 준수나 도덕적 구호로 환원하기보다는, 관계 속에서 구체적으로 작동하는 윤리로 이해하고 싶습니다. 다양한 주체들이 맺는 관계를 어떻게 투명하고 책임감 있게 조율할 것인가에 대한 태도이자 사회적 감수성이라고 생각합니다.

황수경

저는 윤리를 추상적 규범이 아닌 현장에 붙는 실행 원칙으로 이해합니다. 이미지 생성형 AI와 딥페이크는 (1) 권리(초상권·저작권·동의), (2) 데이터 정치(무단 크롤링, 편향, 대표성), (3) 책임소재(불투명한 모델/데이터)라는 세 층을 동시에 건드립니다. 그렇기에 예술가,기술자,기관 모두가 동의,피해 최소화,투명성을 최소 기준으로 삼아야 합니다. 특히 예술 현장에서는 타인의 이미지 사용 시 사전 동의, 합성/편집 여부의 명시, 피해 발생 시 구제 절차가 필수적입니다. 요약하면, 우리는 “픽셀을 믿기보다 과정(출처, 동의, 책임)을 신뢰할 수 있도록 하는 것”을 윤리적 의무로 삼아야 한다고 생각합니다. 저 또한 이러한 문제의식을 늘 인지하며, 실천적 각성을 위해 노력하고 있습니다.

컨버터 CONVERTERABOUT PROJECTCONTACT (Ongoing Project)Pseudo-Code —《Pseudo-code》 —Converter Library —Glossary List —Text —Interview ((Past Project))Hacking Manual —Seminar —Workshop —《Hackerspace》 © teamConverter

컨버터 CONVERTER
ABOUT
PROJECT
CONTACT

(Ongoing Project)
Pseudo-Code
—《Pseudo-code》
—Converter Library
—Glossary List
—Text
—Interview

((Past Project))
Hacking Manual
—Seminar
—Workshop
—《Hackerspace》

© teamConverter