Q. 2

s.a.h

이미지에 대한 신뢰는 사진 합성이나 AI 생성 이미지 같은 기술의 발전에 영향을 받을 수 있지만, 그렇다고 이에 완전히 좌우되는 것은 아닙니다. 예를 들어 조작되지 않은 ‘진짜’ 사진이라 하더라도, 놓이는 맥락에 따라 숨겨진 내막을 전혀 다르게 드러낼 수 있으며, 음모론이나 ‘찌라시’라 불리는 열애설 등의 서사에 적절히 배치됩니다. 오히려 이미지 생성 기술의 발전은 이미지의 조작 가능성을 수면 위로 드러내며, 이미지가 사실을 보증한다는 전제를 흔들고, 비판적인 검토와 수용을 가능하게 합니다. 역설적으로, 이는 오히려 더 적극적인 진실 추구를 가능케 한다고 생각합니다.

기술적인 측면에서도 이미지 생성형 AI가 점점 더 사실적인 이미지와 영상을 만들어내고 있지만, 완벽한 현실 재현은 앞으로도 어려울 것으로 예상합니다. 과거 컴퓨터 그래픽 영화가 처음 등장했을 때는 실제와 구분하기 어렵다고 느꼈지만 시간이 지나 다시 보면 인위적인 물성이 드러나는 것과 같은 맥락에서 AI 생성 이미지 역시 이러한 ‘시차’를 겪게 될 것입니다. 현재 AI로 제작된 이미지에서도 특유의 질감이나 움직임, 왜곡된 글씨 등을 단서로 포착해내는 것처럼, 우리는 앞으로도 시차 속에서 ‘AI적’ 특성을 지속적으로 감별하고 학습해 나가게 될 것입니다.

또한 이미지를 신뢰할지는 점점 더 개인의 판단에 달리게 될 것입니다. 이미지는 개인의 선택에 따라 믿고 싶은 것을 더 강하게 믿게 하거나, 반대로 믿고 싶지 않아도 믿을 수밖에 없게 만드는 증거적 도구로 기능합니다. 현재와 근미래의 환경에서 대량으로 생성·변형되는 이미지는 신뢰의 대상이라기보다 선택적 판별의 대상으로 존재하게 될 것입니다. 심지어 조작되지 않은 실제 촬영 사진조차 AI 이미지로 의심받는 상황은, 결국 모든 이미지를 잠재적 의심의 대상으로 만들고 있습니다.

우리는 이미 SNS 프로필 사진, 광고 이미지 등에서 보정, 촬영 각도나 구도에 따른 왜곡을 전제하고 이미지를 소비합니다. 즉, 어느정도 현실과의 불일치를 감안한 상태로 이미지를 받아들이고 있습니다. 이러한 불일치가 더욱 커진 지금, 이미지에 대한 신뢰 방식은 과거로 회귀하듯 점차 사진 발명 이전 ‘그림을 바라보던 태도’와 가까워지고 있습니다. 현실을 닮았지만 현실 자체는 아니라는 인식과 함께 이미지를 맥락 속에서 해석하는 태도가 더 중요해질 것입니다.

김남시

AI 생성 이미지의 등장으로 인해 무엇보다 사진 이미지가 더 이상 증거능력을 가지지 못할 것이 분명합니다. 하지만 사실상 이 경향은 디지털 이미지 기술의 등장 이후 점차적으로 강화되어왔던 것이지, AI 생성 기술이 처음 초래한 결과는 아닙니다. 디지털 기술 이후 우리가 이미지를 다루는 방식은 다양화되었으며 이미지가 확실한 지시대상과 연결된다는 의식은 이미 희박해져있는 상황입니다. 따라서 생성형 AI 영향력으로 ‘이미지를 신뢰할 수 없게 되었다’는 생각은 과장되었다고 생각합니다.

김소원

우리는 일상 속 사물이나 사건의 진위를 일일이 확인하지 않고 살아왔다. 사회적으로 검증 절차를 거쳐 안전하게 편입된 대상은 대체로 사실이라 믿었기 때문이다. 최소한 형식적으로는 신뢰 기반의 사회였다. 그러나 생성형 AI가 삶 속으로 깊이 들어오면서, 사실을 확인하려는 요구가 커진 동시에 그 확인이 불가능해지는 시대로 급속하게 변모되고 있다. “내 눈앞의 것을 진짜라고 믿을 수 있을까?”라는 질문은 곧 “무엇이 진짜인가?”라는 근본적 의문으로 이어지고, 결국에는 “이미지를 믿어야 할 이유가 있는가?”라는 지적 절망 상태에 다다른다. 출처 기입이 윤리적 차원에서 강력이 요구되어 블록체인이나 워터마킹처럼 기술적 장치가 마련된다 하더라도, 정작 이미지를 ‘믿어야 할 필요’ 자체가 희미해진 시대와 마주하고 있을지 모른다.

한때 ‘스트레이트 사진(straight photography)’을 고집하며 어떤 회화적 개입도 배제한 작가가 있었다. 불과 8년 전까지만 해도 그의 소신은 낭만적 고집으로 받아들여질 여지가 있었다. 하지만 지금은 스트레이트 사진의 평가가 달라진 것이 아니라, 그 구분 자체가 무의미해져 버렸다. 디지털 카메라, 프로그램을 통한 보정 작업은 하나의 세트처럼 이어진다. 폰 카메라에는 자동보정 기능이 탑재되어 있어 사용자가 요구하지 않아도 이미 1차 보정된 결과물이 ‘원본’으로 저장된다. 원본의 의미 자체를 다시 묻지 않을 수 없다.

앞으로 AI 생성 이미지의 사용량이 폭발적으로 증가하면 어떤 일이 벌어질까? 출처를 밝히고 확인하는 일이 과연 언제까지 중요한 문제로 남을까? AI 검색의 대중화가 전통적인 검색 엔진을 밀어낸 것처럼, 이는 정보검색의 시대에서 질문의 시대로 옮겨가는 징후일지도 모른다. 이제 필요한 이미지를 얻기 위해 전문가의 촬영은 물론, 개인의 촬영 행위조차 생략하는 풍경이 일상화될 수 있다. ‘효율 추구’가 모든 것을 집어삼키는 지금, 이는 단순한 망상이 아니다. 설령 더 많은 시간과 자본을 투입한다 해도, 몇 초 만에 완성되는 AI 이미지의 퀄리티를 능가할 수 있을까? 시간과 효율의 잣대 앞에서 인류는 과연 홀로 낭만적 선택을 고수할 수 있을까?

체념 속의 관대함과 편리함에 대한 환대가 섞인 가까운 미래에는, 지금의 민감도와 질문 자체가 달라질 것이다. 곧 우리는 “이 이미지가 AI가 만든 것인가?”를 묻지 않게 될 것이다. 대신 그 이미지의 내용, 맥락, 영향력에 집중하게 될 것이다. 그것이 우리의 기꺼운 선택이 아님에도 불구하고, 이미 도래한 ‘AI 전환의 시대’에 우리가 택할 수 있는 최선일지 모른다. 그 과정에서 누군가는 직업을 잃고, 누군가는 부를 축적하며, 누군가는 저항을 이어가겠지만, 그러한 현실은 더 이상 충격조차 주지 못할 만큼 우리 삶에 스며들 것이다.

부산이나 광주에 갈 때 항공·열차·버스·자동차 중 무엇을 이용하든 중요한 것은 ‘도착’ 그 자체다. 그러나 만약 선택지가 하나로 축소되어 오직 항공만 남는다면, 그것은 편의가 아닌 강제다. 선택 가능성은 곧 생태계 다양성을 의미한다. 다양성은 삶의 생명력과 원동력이기에 이는 위기다. 이미지의 신뢰 역시 그런 상황을 맞이하고 있다. 최근 구글 제미나이(Google Gemini)의 ‘나노 바나나(nano banana)’가 출시되며, AI 이미지의 한계였던 ‘객체 일관성 유지’ 문제가 해결되었다. 이는 단순한 기능 개선이 아니라 이미지 생성 전반의 게임 체인저다. 포토샵의 종말을 선언하며 등장했지만, 실은 모든 이미지 관련 산업의 종말 사건이라 불러도 무방하다. “이미지의 무엇을 신뢰할 수 있는가?”라는 질문을 다시 불러온다. 이미지는 믿을 대상도, 믿지 못할 대상도 아니다. 그 자체로 신뢰 논의의 바깥으로 밀려났다. 그리고 우리가 인지하지 못할 뿐, 이미 이것이 도래한 현실이라는 것.

이레나

이제 우리는 이미지 자체가 아닌 이미지를 둘러싼 증거들을 신뢰하게 될 것이다. 이미지의 출처, 관계와 맥락, 유통되는 플랫폼 등이 새로운 신뢰의 요건이 될 것이다. 명확한 출처를 가진 이미지, 검증된 언론사나 기관이 제공하는 사진, 신뢰할 만한 플랫폼을 통해 유통되는 이미지 등은 상대적 신뢰를 얻게 된다. 여기에 머지않아 새로운 층위가 더해질 것이라 본다. C2PA나 블록체인 기반의 출처 증명 기술처럼 이미지와 메타데이터를 분석하고 진위여부를 판별해주는 검증 AI들이 등장하고 있다. 마치 과거의 검색 엔진이 정보의 신뢰를 보증했듯, 거대 기술 기업들이 이미지의 진위 여부를 담보하려할 것이다.

물론 이러한 검증 기술이 소수 기업에 집중되어 새로운 권력 구조를 만들 수 있다는 우려도 존재한다. 검증 AI의 판정 기준에 개발 기업의 가치관과 이해관계가 개입할 가능성이 있으며, 이로 인해 그저 중립적인 기술로만 치부하기 어렵게 만든다. 한편 자체 AI를 소유한 기업이 직접 검증 AI를 출시하는 아이러니한 상황이 발생할 수 있다. 이럴 경우 문제를 야기한 주체가 해결책까지 제시하는 상황이 벌어지며, 생성과 검증을 동시에 쥐고있는 기업이 이미지 진위의 최종 판결을 내리게 된다. 결과적으로 이미지 진위를 판단하는 검증 권한이 소수 기업에 집중될 수 있다는 우려이다.

하지만 이러한 검증 기술들은 극심한 경쟁 환경에서 발전하며 상호 견제할 것으로 보인다. AI 생태계의 특성상 여러 기업에서 기술은 동시다발로 개발되고, 성능과 정확성을 높이며 속도전을 감행하고 있다. 실제로 지금까지 AI의 발전 과정을 보면, 초기는 각 모델마다의 결함으로 비롯된 개성이 있었지만 기술이 발전하면서 수렴진화하여 상향평준화된 성능을 보이게 되었다. 검증 AI 역시 마찬가지로 편향되거나 성능이 떨어지는 도구들은 자연히 도태되고 고성능의 정확도 높은 도구들만이 살아남을 가능성이 커보인다.

다시 돌아가 말하자면, 우리는 여러 증거들의 조합을 통해 이미지의 신뢰성을 판단하게 될 것이다. 아직 완결된 정답은 없지만, 경쟁적 생태계 속에서 상호 견제와 발전을 통해 어느 정도 신뢰성은 확보될 수 있을 것으로 기대한다. 하지만 기술이 만드는 새로운 신뢰 체계와 그 안의 권력 관계는 여전히 변화하는 중이므로 지속적인 추적 관찰이 요구된다.

정가희

이미지는 세계를 대신하지 못하지만 세계를 경험하는 방식을 바꾼다. 아날로그에서 디지털 사진, 영상, CG, 생성형 AI로 이어진 흐름 속에서 이미지는 더 이상 ‘있었던 것’의 사후적 복제(representation)’를 넘어 ‘아직 존재하지 않는 것의 선제적 현시(presentation)’로 이동했다. 이제 신뢰의 기준은 픽셀의 사실감이 아니라 그 이미지를 가능하게 한 과정과 맥락이다. 곧 “누가 무엇을 어떤 도구로 언제 어떻게 만들고 고쳤는가”라는 제작 이력과 그 공개 방식이 핵심이 되고있다.

여기서 ‘신뢰’는 진정성, 정확성, 책임성, 의도가 얽힌 복합체다. 다수 인지신경 연구에 따르면 사람들은 진위를 판단할 때 내용 그 자체보다 출처, 인터페이스 설계, 사회적 신호 같은 주변 단서에 크게 의존한다. 다시 말해 인간의 인지는 실제 판단 국면의 근거와 과정에 기반한 숙고라기보다는 익숙함과 단서에 기대는 휴리스틱으로 쉽게 치우친다. 비증거적 이미지가 덧붙으면 주장의 진실감이 상승하고, 같은 주장을 반복 노출하면 환상적 진실 효과로 더 진실해 보인다. 소셜 환경에서는 “누가 공유했는가(신뢰하는 공유자)”가 원출처보다 신뢰 판단을 더 강하게 좌우하기도 한다. 합성 얼굴의 경우에도 ‘인공적’이라는 라벨과 사회적 문맥이 신뢰도를 낮추는 편향이 확인된다. 요컨대 앞으로의 신뢰는 “무엇을 믿을 것인가”를 넘어 “어떤 근거와 과정을 거쳐 믿는가”를 설계/검증하는 메타인지적 신뢰로 재구성되어야 한다.

예를 들어, MIT의 프로젝트 중 하나인 ‘In Event of Moon Disaster’➊처럼 결과와 더불어 제작 과정과 판별 방법을 함께 제시하는 형식은 신뢰 회복의 구체적 실천이다. 또한 블록체인은 공개 원장에 해시를 남겨 변경 불가능한 타임스탬프➋를 제공하고, 스마트 컨트랙트로 이용 조건과 분배 규칙의 자동화를 지원한다(다만 실효성은 시장과 플랫폼의 채택에 좌우되며 확장성과 에너지 효율성 같은 과제가 남아 있다). 여기에 C2PA/Content Credentials➌ 같은 프로비넌스 표준을 더하면 이미지의 제작 이력을 사람과 기계 모두가 검증 가능한 형태로 공유할 수 있다.

앞으로 우리가 접하는 이미지는 더욱 설득력 있게 진화할 것이다. 그러므로 이를 뒷받침하는 신뢰 구조도 더 정교해져야 한다. 앞으로는 이미지가 주장하는 바와 그 주장을 가능케 한 생산, 편집, 배포의 족적이 함께 제시될 때 신뢰가 형성될 것이며, 증거 가능한 과정과 책임 있는 해석 공동체가 만날 때 이미지는 다시 신뢰될 수 있을 것이다.

(각주)

➊ 아폴로 11호가 실패했을 경우를 가정해 닉슨의 연설을 합성해 보여주되, 단순히 조작 영상을 보여주는 데 그치지 않고 합성의 제작 과정과 판별 및 검증 방법을 관람자에게 함께 제시했다.

➋ 공개 블록체인에 데이터 해시를 기록하면 그 데이터가 해당 블록 포함 시점 이전에 존재했음을 공개적으로 증명할 수 있으며 기록 변경이 사실상 매우 어렵다.

➌ 암호학적 서명 및 매니페스트로 콘텐츠의 변조 여부와 제작, 편집, 배포 이력을 검증 가능하게 묶어 확인할 수 있도록 한다.

최은총

기술은 따라잡기 힘들 정도로 빠르게 발전하고 있으며, 그 사용 양상도 점점 다양해지고 있다. 이는 단순히 2022년 ChatGPT의 등장에서 비롯된 현상이라기보다, 그 이전부터 이미 일상적으로 통용되거나 우리가 인지하지 못하는 영역에서 비약적인 발전이 이루어지고 있었던 것이다. 이러한 기술 변화 속도에 대한 경탄에서 관련 리서치를 시작했으나, 점차 그 실태를 알게 되면서 두려움이 생기기 시작했다. 특히 내가 관심을 두었던 분야는 ‘신체 이미지’로, 기술 매체를 거친 신체 이미지가 유통·사용되면서 우리의 인식뿐만 아니라 사회·문화적 관계까지 바꾸고 있다고 보았기 때문이다.

나의 주장은 에제키엘 딕슨-로만과 라몬 아마로가 2021년 e-flux에 기고한 「유령, 암흑, 그리고 알고리즘적 사고(Haunting, Blackness, and Algorithmic Thought)」에서 제시한 통찰과 맞닿아 있다. 이들은 인간 얼굴의 합성(딥페이크)이 전혀 새로운 현상이 아니라, ‘보편적’ 혹은 ‘프로메테우스적’ 인간으로의 차이를 재귀적으로 포괄하고 조정한 이미지라고 설명한다. 결국 이러한 이미지들은 (주류인) 백인의 얼굴을 모델로 삼아 연습되고 탄생했다는 점에 주목해야 한다는 것이다. 대규모 데이터셋에서 학습이 이루어진다 하더라도, 그 학습의 주체가 지닌 “유령 같은 내재성”을 인식하지 못한다면, 결국 그 이미지가 드러내고 감추는 영역에 휘둘릴 수밖에 없다. 이는 이미 주류가 소수자를 지우는 방식, 즉 여성·장애인·식민지 선주민에게 가하는 폭력의 방식과도 유사하다. 주류에 편입되지 않는 부분을 탈락시키고(마치 신경망 학습 과정에서 오류를 제거하듯), 이러한 방식을 다시 학습하는 과정 속에서 스스로의 논리를 재귀적으로 공고히 하는 것이다. 이러한 맥락에서 두 저자는 딥페이크 이미지가 그것이 표현하는 실제 이미지보다 오히려 더 ‘삶과 유사할지도 모른다’고 주장한다.

점점 더 ‘인간 같은’ 형상을 생성해내는 인간 이미지 합성 기술은 그 내재적 위험성뿐 아니라, 해당 이미지가 유통·사용되는 방식에서도 커다란 위험성을 지닌다. 이는 신체 이미지가 유통되는 과정에서 발휘하는 정치성 때문인데, 2007년 아트인컬처에 실린 현시원의 「이상한 이상화의 징후」를 경유해 보면 더욱 의미심장하다. 현시원은 선거 활동 중 ‘박근혜 이미지’를 분석하며, 그것이 “아버지 독재와 개발 시대의 ‘향수’(박정희)와, 현모양처로 집약되는 어머니의 ‘자애’(육영수)”를 활용한 이미지 정치였다고 읽는다. 그리고 “이미지와 선전의 관계는 필수적이며, 나아가 필사적인 어법이 된다”고 지적한다. 이는 신체 이미지의 노출과 유통, 그리고 그것이 굴절될 때 발생하는 파급력을 강하게 의식한 것이다.

또 하나의 대표적인 사례는 미국 대통령 도널드 트럼프 암살 미수 사건과, 그 사건에서 파생된 두 종류의 이미지이다. 2024년 7월 13일 미국 펜실베이니아주 버틀러에서 유세 중이던 트럼프는 귀에 총탄을 맞고 쓰러졌다. 그러나 곧 주먹을 쥐며 일어서서 군중을 향해 손을 들어 올렸다. 이 순간, 대선에 영향을 줄 만한 상징적인 이미지가 탄생했다. 바로 피격 직후 피를 흘리며 군중들에게 주먹을 치켜세우는 트럼프의 모습, 그리고 그 뒤로 펄럭이는 미국 국기와 함께 찍힌 사진이다. 이 사진은 트럼프가 외쳐온 “MAGA(Make America Great Again, 미국을 다시 위대하게)”를 대표하는 장면으로 자리 잡았으며, 전 세계 언론에 보도되면서 트럼프는 카리스마 있는 대선 주자로 부각되었다.

그러나 이 상징적인 사진이 수많은 신문의 일면을 장식한 것과 달리, 트럼프가 총에 맞고 쓰러지는 모습이나 단상 아래로 몸을 숨기는 장면은 상대적으로, 혹은 의도적으로, 배제되었다. 이는 트럼프가 이미지 정치의 중요성을 크게 의식하고 있기 때문이라 할 수 있다. 실제로 2025년 2월 28일 우크라이나와 미국 간의 정상회담 자리에서, 트럼프는 젤렌스키 대통령이 정장이 아닌 복장을 했다는 이유로 공개적으로 불쾌감을 표시한 바 있다. 이 사건 이후 수많은 언론은 트럼프의 복장 지적과 젤렌스키의 옷차림을 집중적으로 보도했다. 젤렌스키는 정장을 입지 않은 이유로 전쟁 상황을 언급했으며, 가슴에는 우크라이나의 상징인 삼지창이 새겨진 셔츠를 입어 정치적 메시지를 전달했다. 이는 두 대통령 모두 자신의 외모와 복장이 정치적 메시지를 담는 외교적 언어일 수 있다는 사실을 잘 인식하고 있음을 보여준다.

나는 신체 이미지 사이에서 권력이 작용하고, 전유(혹은 탈취)와 굴절이 가능해지는 이유가 우리의 의식 기저에 뿌리 깊이 자리한 (신체) 이미지에 대한 신뢰 때문이라고 생각한다. 그러나 우리는 그 사실을 종종 망각한다. 디지털 이미지 시대에 새롭게 등장한 이미지 생성형 AI가 만들어내는 어설픈 이미지를 보며 우리가 의심을 품고 있다고 생각하지만, 결국 그것은 우리가 알게 모르게 정향되어 온 방식에 따라 우리를 변화시킬 것이라 예측한다. 더 나아가, 이미지에 대한 우리의 신뢰는 ‘의심하고 있다’는 착각 속에서 오히려 강화될 것이다. 그렇기에 우리는 이미지를 정복하고 있다는 사실 자체를 신뢰하게 되고, 그 결과 이미지가 감추고 있는 진실은 점점 더 수면 아래로 가라앉게 될 것이라 본다.

한문희

이미지는 언제나 편집과 환상의 응고체로써, 충족될 수 없는 욕망에 봉사하며 진화해 왔다. 말하자면 이미지를 신뢰한다는 감각 자체가 그리 오래된 것은 아닐 수 있다. ‘이미지’의 폭을 넓혔을 때, 보는 순간 단번에 믿어지는 이미지-화질과 무관하게 사진의 형태를 띤 것으로 대표되는-가 있는가 하면, 믿음이 처음부터 결여된 채 향유 내지는 소비되는 이미지-그림, 애니메이션, 후편집이 명확히 보이는 사진 등-가 있다. 여기서 믿음은 이미지를 보는 사용자의 맥락에 따라, 찰나의 직감에 의해 유연하게 전환된다. 말하자면 이미지의 진위를 따지게 되는 순간은 (경험에 의해 쌓인) 직감의 외부에 위치해 보는 이를 교란시키는 것을 볼 때 극대화된다.

2023년 인터넷에 퍼진 ‘스파게티를 먹는 윌 스미스(Will Smith Eating Spaghetti)’ 이미지를 보며 우리는 그저 웃어넘겼으나, 2025년에 발전된 기술로 만들어진 이미지는 시각을 교란하며 우리를 불쾌하게 만들었다. 생성형 AI는 ‘단번에 믿어지는 이미지’의 외형에 가까워지고 있다. 레퍼런스로 입력되는 이미지는 수많은 사람의 실제 경험에 기반한 것이므로 이는 당연한 결과일 터다. 요컨대 사용자가 AI 이미지를 보는 만큼 AI 이미지 역시 사용자를 보고 있으며 그 둘은 대척점에 서 있지 않다. 그러므로 이를 구분하는 행위는 무용하다. 교란의 시차는 점점 더 짧아질 테고, 사용자는 이제 그것이 진짜인지 가짜인지 구별하는 걸 지나 단순히 스와이프하며 소비하게 될 것이다(법적인 증거로 채택될 일부 이미지는 제외하고 생각해 보자). 시야에 잠시 맺혔다가 사라질 이미지를 신뢰의 대상으로 숙고할 수 있을까? 우리는 종국엔 ‘단번에 믿어지는 이미지’ 자체를 망각하게 될지도 모른다. 불신이라는 이미지 독해법이 자연스러워질 수 있게 말이다. 그리고 그건 아주 오랫동안 우리가 이미지를 읽어온 방식과 유사하다. 이미지를 향한 믿음 자체가 허상이라 한다면 너무 회의적일까?

한상임

이미지와 실재의 관계는 언제나 변해왔습니다. 생성형 AI의 등장은 다시 한번 신뢰의 방식을 재구성하도록 요구합니다. 앞으로 이미지를 신뢰한다는 것은 “현실의 증거”를 확인하는 일이 아니라, 이미지를 둘러싼 맥락과 생성 과정의 투명성을 확인하는 일이 될 것입니다. 어떤 알고리즘과 데이터로 만들어졌는지, 누가 어떤 의도를 담았는지, 사회적으로 어떻게 유통되는지. 이미지 자체보다 이미지를 둘러싼 관계망과 서사가 신뢰의 기준이 될 것입니다.

예술의 차원에서는 또 다른 가능성이 열립니다. ‘실재의 기록’으로서 이미지를 믿기보다는, 이미지가 불러일으키는 감각적 경험과 사유의 힘을 신뢰하게 될 것입니다. 관객은 “이것이 실제인가?”보다는 “이 이미지가 무엇을 드러내고, 어떤 세계를 가능하게 하는가?”를 묻게 될 것입니다. 결국, 이미지에 대한 신뢰는 줄어들기보다는, 사실 여부의 보증에서 맥락, 투명성, 그리고 사회적 합의로 이동하게 될 것입니다.

한세희

생성형 AI와 딥페이크의 시대에 우리는 이미지를 접할 때 더욱 많은 주의를 기울여야 할 것입니다. 생성형 AI는 확실히 현실과 가상, 진실과 거짓의 경계를 더욱 적극적으로 흐릴 수 있습니다.

하지만 그것이 우리에게 쏟아지는 의견과 주장, 이미지와 표상, 이야기와 언설의 진실성과 타당성을 끊임없이 회의해야 한다는 기본적인 주의 의무의 장벽을 급진적으로 끌어올릴 수준의 변화인지에 대해선 고민이 필요합니다.

사람을 속이는 것은 다른 사람입니다. 그리고 우리를 속이는 것은 자기 생각이나 의견, 믿음, 신념, 욕망에 부합하는 표현을 언제든 기꺼이 믿고 받아들이고 퍼뜨릴 자세가 되어 있는 우리 자신이기도 합니다.

우리가 신뢰를 느끼게끔 하는 수단은 이미지만 있는 것은 아닙니다. 설득력 있는 이야기, 그럴듯하게 나열된 통계나 숫자 역시 감성을 자극하는 구호, 욕망을 부추기는 언설과 만나 우리를 속일 수 있습니다.

사회는 언제나 ‘세상을 흉흉하게 하는’ 유언비어와 관계를 파탄내는 거짓 소문과 루머와 함께 해 왔습니다.

최근 등장한 스마트폰과 소셜미디어는 사실과 거짓 여부에 상관없이 압도적으로 많은 이야기와 주장, 독백과 대화, 논쟁과 싸움을 세상에 풀어놓았습니다. 우리는 이렇게 빠르게, 많이, 끊임없이 쏟아지는 표현을 다루는 방법을 아직 터득하지 못했습니다. 그리고 우리에게 가장 익숙하고 편한 방식, 즉 자기가 믿는 바를 뒷받침하는 주장만 받아들이고, 그런 증거만 걸러내 받아들이며, 뜻을 같이 하는 사람들과 끈끈한 유대를 느끼고 뜻이 다른 사람들을 미워하고 악마로 만들며 돌멩이를 던지는 방식으로 변화에 대응했습니다.

이런 흐름을 거슬러 이 같은 ‘표현’들을 세상에 대화와 소통, 창작과 지식, 창의와 지성을 더하게 하는 방식으로 생산하고 유통하는 것은 현대의 가장 주요한 과제입니다.

딥페이크와 같은 생성형 AI 기반 이미지는 우리가 겪고 있는 이 같은 문제들을 근원적으로 더 어렵게 만들만한 새로운 기술적 도약일까요, 아니면 지금의 문제를 해결함에 있어 점진적인 방식으로만 어려움을 더한 것일까요?

이런 질문을 던지는 것은 생성형 AI 이미지나 딥페이크 영상의 위험성을 과소평가해서가 아닙니다. 예상되는 위험을 해결하기 위해 우리가 접근해야 할 문제들이 무엇인지 보다 또렷이 바라보기 위함입니다.

우리는 인간을 신뢰하는 만큼만 이미지를 신뢰할 수 있을 것입니다. 정말로 진짜와 구별할 수 없는 생성형 AI 딥페이크 이미지가 일상화된다면, 그 같은 이미지는 자신이 믿는 것을 더 강하게 믿기 위한, 또는 자신이 믿지 않는 것을 더 강하게 부정하기 위한 좋은 알리바이가 될 것입니다.

이미지에 대한 신뢰는 우리가 말과 글과 이미지와 영상, 소리 등 모든 표현을 어떻게 만들고, 평가하며, 받아들이고, 소통하여 더 많은 자유롭고 다채로운 표현과 지식, 즐거움과 위로를 만들 방법을 찾을 수 있을지에 달려 있을 것입니다.

우리가 지금처럼 기꺼이 자기의 마음에 부합하는 정보들을 받아들이고 소비하는 사람으로 남는다면, 이미지에 대한 신뢰를 판단하는 기준 역시 우리에 맞는 수준으로 조정될 것입니다.

홍진훤

우리가 양자역학의 세계를 조금씩 알아가기 시작하면서 드디어 중첩이라는 단어를 존재론적으로 이해하기 시작했습니다. 빛은 파동이자 입자입니다. 여기서 우리에게 중요한 것은 빛의 성질이 아니라 모든 물질의 기본적인 존재 양식이 불확정적 중첩 상태라는 것입니다. 이 인식의 전환은 우리에게 오랫동안 논쟁의 상태로 남아있었던 실재와 이미지의 관계를 이해하는 실마리를 제공합니다. 우리는 쉽게 이 세계는 실재하고 그것의 환영적 재현으로써의 이미지를 떠올립니다. 하지만 실재론, 유물론 등의 인식-사고 체계는 관념론이라는 이데올로기에 승리한, 지금 우리를 지배하는 이론일 뿐 그것이 영원히 참일 필요는 없습니다. 이 세계의 존재 양식이 중첩임을 인정한다면 동시대의 실재와 이미지 역시 같은 구조로 존재해야 합니다.

그것이 때론 실재처럼 감각되고 때론 이미지처럼 인식될 수 있지만 본질적으로 그것은 하나입니다. 그래서 사건 이후에 사진이 있어야 한다는 가설은 폐기되고 이미지는 실재의 토대가 됩니다. 인간은 늘 이미지를 대상화하려 노력했지만, 그 시도는 결국 인간이 이미지임을 발견하는 반복되는 과정이었습니다. 이미지는 더 이상 실재의 대상이 아니라 하나의 독립된 주체입니다. 인간이라는 시스템은 사실 미생물의 생존을 위해 작동하는 숙주에 불과하다는 생물학자들의 주장이 등장하는 마당에 인간이라는 물질적 주체의 인식은 이미지 앞에 더욱 무력합니다.

디지털카메라의 등장 이후 이미지는 더욱 급속하게 독립적인 구조로 재편됩니다. 수많은 이미지 프로세싱 알고리즘이 등장해 물리적 세계와 상관없는 내재적 논리로 스스로 이미지가 됩니다. 하지만 그것을 구분할 수 있는 능력이 없었던 인간의 신체는 결국 생성형 AI의 등장과 함께 혼란에 빠졌습니다. 하지만 그것은 새로운 이미지의 논리가 성립되는 과정에 벌어지는 예외적 상황일 뿐 더 이상 구분할 수 없는 기술적 상황이 오면 인간의 혼란은 즉시 해소됩니다. 우리는 더 이상 내 앞의 인간과 줌(ZOOM) 안의 인간을 구분하지 않습니다. 지구적인 역병으로 강제된 이 중첩의 경험은 차라리 물질적 인간에 대한 회의를 만들어냅니다. 나의 아바타 이미지는 나의 표상이 아닌 나와 중첩된 상태로 존재하는 하나의 가능성으로서의 주체적인 나입니다.

지금 생성형 AI가 가장 잘 만들어낸다고 알려진 이미지는 K-POP 아이돌들의 이미지입니다. 이 부분에서는 이미 인간이 구분할 수 있는 단계를 넘어섰습니다. 이것은 알고리즘의 성취를 드러낸다기보다는 아이돌과 생성형 이미지가 결국은 본질적으로 동일함을 드러냅니다. 이미지가 실재의 불완전한 모방에 그친다는 플라톤의 바람은 수많은 전쟁 이미지 앞에 확정적으로 폐기됩니다. 그래서 인간은 더 이상 이미지를 신뢰할 수 있는, 혹은 없는 위치에 있지 않습니다. 인간이 신에게서 해방된 것이 인간의 시각을 되찾은 이미지 덕분이었다면 지금은 이미지가 스스로 인간에게서 해방되는 시간입니다. 우리에게 남은 질문은 이것입니다. 우리는 어떤 이미지가 되어 어떤 이미지와 연대하고 어떤 이미지에 대항할 것인가.

황태림

앞으로는 GenAI로 생성된 이미지나 영상, 오디오가 현실과 구분할 수 없는 시대에서 살아갈 것입니다. 지금도 그러한 상황이지만 앞으로는 더욱 차이점을 믿을 수 없는 세상이 되겠습니다. 이미지 자체에 대한 신뢰 보다는 이미지를 최초로 현실에 공유한 사람과 시점, 그리고 이미지를 기록한 장치에 대한 증명이 중요한 이슈가 될 것입니다.

가령, 인터넷에 최초로 등장한, 논란의 여지가 있는 사진이 있다고 하면 해당 사진을 최초로 업로드한 사람에 대해 신뢰성이 있는지 판단하게 됩니다. 그리고 해당 사진을 촬영한 장치의 고유식별번호 등이 이미지에 Steganography(사진, 음악, 동영상 등의 미디어 파일 안에 데이터를 드러나지 않도록 암호화하여 기록하는 기술)를 통해 인증 정보를 남기는 등의 데이터에 대한 추가 확인이 필요할 수 있습니다.

이러한 이미지의 메타데이터를 AI가 생성 또는 위/변조 할 수 없도록 하는 기술과 사람들이 알기 어렵도록 암호화하여 데이터를 이미지에 결합하는 기술이 앞으로 중요하게 떠오를 것입니다. 언제나 기술 발전은 창과 방패의 싸움이었듯, 보안 기술의 강화를 통해 다시금 미디어 데이터에 대한 신뢰가 회복될 것입니다. 다만, 지금과는 다른 부분에서의 검증과 보안을 통해서 이루어질 것입니다.

끝으로, 기업과 국가는 생성형 AI가 생산한 데이터인지의 여부를 위 기술의 발전에 더하여 검증하고, 감독하는 역할을 띄게 될 것입니다. 여기서 인류는 문제에 직면할 것입니다. 어떤 사회로 향할지는 각 기업 및 국가와 이들을 감시하는 시민들의 숙제입니다. 1) 자연스러운 검열로 사회가 통제되는 디스토피아. 2) 위험적 요소를 검사하여 제거하는 안전한 사회. 둘 중 어떤 사회로 나아갈지 고민이 필요한 시대입니다.

익명

생각해보면 우리는 이미지를 신뢰한지 얼마 안 되었습니다. 우리가 동굴에 벽화를 그리던 시절에도, 붓과 먹으로 그림을 그리던 시절에도, 우리는 이미지를 상상의 영역으로 여겼지 사실의 영역으로 여기지 않았습니다. 우리가 이미지를 사실처럼 인식한 건 겨우 100년 남짓입니다. 이미지에 대한 신뢰는 어쩌면 매우 이례적인 일일지도 모릅니다.

최근 생성형 AI 때문에 이미지를 의심할 수밖에 없게 되었습니다. 법정에서도 이미지를 의심하기 시작했습니다. 솔직하게 말하면 판사, 검사, 변호사들도 이 문제를 어떻게 해결해야 할지 잘 모르는 상태입니다. 미국 법원에서는 “증거가 AI에 의해 조작되었다.”라는 다툼이 꽤 이루어지고 있다고 합니다. 그러나 아직 확립된 법리는 없고, 법률가들이 토론하는 단계에 있는 것으로 보입니다. 최근 문헌을 보면 대체로 AI에 의한 생성 여부를 탐지하는 공학적 기술에 기대를 걸고 있는 것 같습니다.

후에 논의가 어떻게 나아갈지 모르겠지만, 법률가들이 가장 먼저 떠올리는 방법 중 하나는 “그 이미지와 관련된 사람을 불러 세우자”입니다. 증인을 불러 세우는 건 법률가들의 가장 고전적인 해법입니다. 이미지에 등장한 사람, 이미지를 소지한 사람, 이미지를 촬영∙생성한 사람들을 법정에 불러 세워서 “이 이미지가 사실인가요?” 따위를 물어보는 겁니다. 단순무식하지만 꽤 확실한 해법 아닐까요? 법률가들의 단순무식한 아이디어가 다른 분야에도 영감을 줄 수 있지 않을까 싶습니다.

저는 ‘사람’이 해법이 될 수 있다고 봅니다. 사람이 만들지 않은 이미지는 없고, 사람이 소지하지 않는 이미지는 없습니다. AI에 의해 생성된 이미지도 사람의 명령어에 의해 만들어지고, 사람이 하드디스크에 저장하지 않는 이미지는 증발합니다. 이미지에 대한 신뢰는 무너질지 몰라도, 그 이미지 뒤에 사람이 있다는 신뢰는 깨어지지 않습니다.

고전적으로 그림을 감상할 때, 그 그림의 작가에 집중하고, 그림의 등장인물에 집중하고, 그 그림의 소유자에 집중했던 것처럼 사람에 집중하는 것이 하나의 방법이 될 것 같습니다. 이미지 뒤에 있는 사람의 신뢰도가 이미지에 대한 신뢰를 결정하게 되지 않을까 싶습니다.

익명

과거에도 그랬고 미래에도 이미지를 신뢰하게 될 겁니다. 사진의 역사를 빌려, 1800년대 활동한 헨리 피치 로빈슨의 <임종>이나 오스카 레일랜더의 <두 갈래 길> 같은 합성 사진을 예시로 들어보겠습니다. 저는 사실 처음 사진사를 공부할 때 네거티브 필름을 오려붙여 마치 지금 우리가 툴이나 AI로 이미지를 합성하듯 과거에도 그게 가능했다는 사실이 꽤나 충격이었거든요. <두 갈래 길>은 르네상스 거장의 작품을 모사한 사진이라 실제 상황을 포착한 사진이라고 느껴지진 않지만, 로빈슨의 <임종>은 제 기준에선 얼핏 보면 정말 실제했던 상황처럼 보입니다. 하여 우리가 눈으로 감각할 수 있는 실제 상황을 있는 그대로 기록할 수 있게 됐던 기술 복제시대에서부터 인공지능이 정교하게 현실의 이미지를 생성하는 지금에 이르기까지, 저는 이미지의 진위가 비단 어제오늘이 아니라 항상 모호한 지점에 있어 왔다고 생각합니다.

질문에 대한 답을 위해 반대의 상황도 잠깐 이야기하겠습니다. 로베르 두아노가 포착한 <시청 앞에서의 키스>를 보면, 이 사진은 절묘한 순간을 포착한 사진으로 명작의 반열에 올랐습니다. 문제는, 기술적으로 생성된 이미지는 아니긴 한데 실상은 작가가 연출한 사진이었죠. 많은 사람들이 이 사진을 보고 파리지앵의 로맨스라던가, 낭만적인 사랑이 ‘실제'한다는 환상을 떠올렸겠지만 이 이미지는 그저 만들어졌을 뿐입니다. 그리고 그 사진이 실제를 포착했지만 본질은 거짓이라는 걸 알게 되었죠.

그래서 저는 이미지가 실제 대상을 포착했든, 생성되었든, 이미지를 신뢰하기 필요한 것은 원작자, 혹은 저작권자의 투명성이라고 생각합니다. 그리고 그 투명성을 검증하고 뒷받침할 수 있는 윤리적 기준이나 제도가 뒤따라야겠죠. 그밖에는 달리 무엇도 신뢰할 수 없을 정도로 이미지가 정교하게 생성되고 있어서이기도 합니다.

익명

이미지란 실재 사물의 모습을 모방한 모사물로 인식될 수 있으나, IT기술의 발달로 더 이상 실재 사물을 모방하는데 그치는 것이 아닌 상상적인 것을 모사하는 기능도 갖고 있음. 딥페이크 기술이 실재와 상상을 융합해 새로운 무엇인가를 창조하고, 그 창조된 것이 인류의 발전을 위해 순기능적 작용을 한다면 '인간의 창의성 영역을 확장시켜 주는 도구' 또는 '상상을 가능한 한 현실성 있게 만드는 연금술' 정도로 칭할 수 있지만, 딥페이크 기술을 악용해 실재인물의 자유와 권리를 침해하고, 사회에 역기능적 요소로 작용한다면 디지털 시대의 독 또는 쓰레기 정도로 인식할 수 있을 것임.

참고로 우리나라뿐 아니라 EU 및 미국 등을 중심으로 생성형AI가 만든 결과물에 워터마크를 달도록 하는 법정책이 추진되고 있음.

컨버터 CONVERTER

ABOUT PROJECT CONTACT (Ongoing Project) Pseudo-Code —《Pseudo-code》 —Converter Library —Glossary —Q & A ((Past Project)) Hacking Manual —Seminar —Workshop —《Hackerspace》 © teamConverter

ABOUT
PROJECT
CONTACT

(Ongoing Project)
Pseudo-Code
—《Pseudo-code》
—Converter Library
—Glossary
—Q & A

((Past Project))
Hacking Manual
—Seminar
—Workshop
—《Hackerspace》

© teamConverter