넷플릭스 Netflix 블랙 미러 Black Mirror S6 EP01 존은 끔찍해 리뷰

 블랙 미러는 항상 실망시키지 않는 탁월한 스토리라인과 연출을 보여준다. 1시간이 안 되는 짧은 시간 동안 멋진 상상을 할 수 있도록 도와준다. 오랫동안 시즌6가 돌아오길 기다렸는데 마침 나오자마자 2개의 에피소드를 정주행하고 끝인 줄 알았는데 더 올라오고 있어서 너무 행복하다. 시즌1부터 시즌5까지는 물론 화려한 영상미와 더불어 오락거리의 느낌도 없지 않았다면 이번 시즌6에서는 좀 더 생각할 거리에 치중한 느낌을 준다.

간단한 줄거리

 어느 날 갑자기 자신의 모든 하루가 넷플릭스에 생중계처럼 드라마로 올라온다면 어떻게 될까? 아주 신선한 발상이지만 또 나중에 그럴 확률이 없지는 않다. 때때로 우리는 라이브 방송 스트리머의 삶을 생중계로 보고 있다. 그런데 이 에피소드에서는 존이라는 인물이 가상의 동영상 플랫폼에서 약관을 잘못 읽고 대충 넘기는 바람에 자신의 모든 것이 생중계 되도록 동의하는 일이 벌어졌다. 역시 사람은 모든 면이 중계되면 그 추악한 면이 드러나기 마련이다. 어쩌면 존이라는 사람보다도 더한 인생을 살고 있는 사람도 있을 수 있다. 결국 주위 사람 모두 존의 일거수일투족을 알게되니 그 비참함은 커져만 간다.

 TV속의 나를 연기하는 사람은 인기 배우인 살마 하예크다. 멋진 배우가 나의 부끄러운 장면을 연기하는 것도 서글픈데, 마땅히 할 수 있는게 없다. 또 자신이 저지른 실수 때문에 현재의 애인과도 헤어지고 만다. 그런 그녀는 모든 것을 자포자기하고 오히려 생각할 수 있는 가장 추악한 짓을 저질러 보지만 통쾌함은 그때 뿐이다. 그런 그녀에게 배우 살마 하예크가 찾아온다. 배우 살마 역시 자신의 표상권이 이정도로 까지 이용될 줄은 몰랐다고 존에게 말한다. 그리고 같이 해결책을 궁리하기 시작한다. 여기까지가 대략적인 전개 과정이다.

느낀 점

 이 에피소드를 보면서 최근의 AI 논란이 불현듯 스쳐 지나갔다. 최근에는 누군가의 목소리를 3초만 들려준다면, 그가 부르지 않은 노래를 마치 실제로 부르는 것 같이 만들어낸다. 또 대본만 써주면 누군가의 목소리와 얼굴로 팟캐스트 형식의 동영상을 찍어내기도 하는 한편, 유명한 대기업 AI에서는 일부 장면을 주고 주변 화면을 계속 무한대로 생성해 낼 수 있기도 하다. 이런 아이디어에 덧붙여 사람들이 가입할 때 보는 약관이 허술한 점을 이용해 스토리를 탄생시킨 것이다. 기술적인 발전상이 실제로 화제가 됐던 적도 있다. 유명 연예인이나 정치인의 사진을 합성해서 대중 뿐만 아니라 기자까지 속았던 적이 있다.

 이와 관련해서 EU에서는 현재 AI법을 거의 제정 완료 하고 있다. 위험도에 따라 구분하는데 AI로는 절대 해서는 안될 것, 매우 위험하지만 인간의 평가가 필요한 것, 제한된 위험, 생성형 AI가 있다.

 절대 허용되지 않는 위험의 대표적인 예시는 AI를 활용한 안면인식, 취약 집단에 인지와 행동 조작, 사람의 지위, 행동, 특성을 임의로 평가하기가 있다. 매우 위험하지만 인간의 평가가 필요한 것으로는 생체 인식, 이민 및 국경 통제, 법적 해석 및 적용, 교육 등이 있다. 제한된 위험으로는 사용자는 AI와 상호작용할 때 이를 인지하도록 고지할 것과 이미지, 오디오, 비디오 콘텐츠를 생성하거나 조작(딥페이크)이 있다. 위험도가 비교적 낮은 생성형 AI에게도 여러 규제를 마련했는데, AI에 의해 생성된 콘텐츠라는 것을 고지할 것, 불법 콘텐츠를 생성하지 않도록 할 것, AI훈련에 사용된 저작권 데이터를 공개, 요약 후 공지할 것이 있다.

 앞으로 우리는 "존은 끔찍해"까지는 아니더라도 대혼란의 시대에 빠질 것이 명백하다. 뇌과학 분야에서 AI와 접목해 인간 의식에 대한 연구가 완료되면 앞으로 더 무서워질 것이다. 그래서 EU의 이런 법제정이 반갑기만 하다. 이 때문에 AI의 개발이 늦어지지 않느냐는 우려가 있겠지만, IT기업들이 지금 사활을 걸고 개발하고 있고 그들의 생존을 걸고 개발자들을 고액의 연봉에 쓸어가고 있다. 바로 지금이라도 인간의 존엄성을 지킬 안전장치를 고안해야 할 때 EU가 나섰다.

 인간 다워지기를 노력해야만 인간 다워진다고 생각한다. 기술의 발전이 많은 것을 대체하고 가능하게 한다면 우리는 더욱 인간다움을 위해 고군분투 해야 한다. 우리의 목소리, 사진으로 똑같이 흉내낼 수 있는 것이 중요한 것이 아니라 약자들에 대한 배려를 계속하고, 지위 고하와 경제력으로 인한 인간 가치 평가를 지양하며, 인간 본연의 가치를 탐구하고, 인도적인 가치를 AI에게 학습시키도록 시스템을 정비해야 겠다.