블로그

Aug 19, 2023

AI 이미지를 발견하기가 점점 더 어려워지고 있습니다. 구글은 해결책이 있다고 생각합니다.

기술 회사들이 AI 제품을 개선하기 위해 경쟁함에 따라 인공 지능으로 생성된 이미지는 실제 이미지와 구별하기가 점점 더 어려워지고 있습니다. 2024년 대선 캠페인이 본격화되면서 우려가 커지고 있다.

기술 회사들이 AI 제품을 개선하기 위해 경쟁함에 따라 인공 지능으로 생성된 이미지는 실제 이미지와 구별하기가 점점 더 어려워지고 있습니다. 2024년 대선 캠페인이 본격화되면서 이러한 이미지가 허위 정보를 퍼뜨리는 데 사용될 수 있다는 우려가 빠르게 커지고 있다.

화요일에 Google은 솔루션의 일부가 될 수 있는 SynthID라는 새로운 도구를 발표했습니다. 이 도구는 인간의 눈으로는 볼 수 없지만 읽을 수 있도록 훈련된 컴퓨터에서는 인식할 수 있는 디지털 "워터마크"를 이미지에 직접 삽입합니다. 구글은 자사의 새로운 워터마킹 기술이 변조에 강해 가짜 이미지 확산을 단속하고 허위 정보 확산을 늦추는 중요한 단계라고 밝혔습니다.

AI 이미지 생성기는 수년 동안 사용 가능해 왔으며 "딥페이크"(진짜 이미지인 것처럼 위장하는 허위 이미지)를 만드는 데 점점 더 많이 사용되고 있습니다. 지난 3월에는 경찰을 피해 도망치는 도널드 트럼프 전 대통령의 인공지능(AI) 이미지가 온라인에 퍼졌고, 지난 5월에는 국방부 폭발 장면을 담은 가짜 이미지가 주식시장을 순간 폭락시키는 원인이 됐다. 회사는 AI 이미지에 눈에 보이는 로고를 배치하고 이미지의 출처를 나타내는 첨부된 텍스트 "메타데이터"를 배치했지만 두 기술 모두 비교적 쉽게 자르거나 편집할 수 있습니다.

기업이 AI 이미지에 워터마크를 표시하도록 요구하는 법안을 추진한 Yvette D. Clarke 의원(DN.Y.)은 인터뷰에서 "분명히 요정은 이미 병에서 나왔습니다"라고 말했습니다. "우리는 무기화 측면에서 최대화되는 것을 보지 못했습니다."

현재 Google 도구는 클라우드 컴퓨팅 비즈니스의 일부 유료 고객에게만 제공되며 Google의 이미지 생성 도구인 Imagen으로 만든 이미지에서만 작동합니다. 회사는 아직 실험 단계이기 때문에 고객에게 사용을 요구하지 않는다고 밝혔습니다.

구글 딥마인드(Google DeepMind) 연구 담당 부사장 푸쉬미트 콜리(Pushmeet Kohli)는 "궁극적인 목표는 대부분의 AI 생성 이미지를 삽입된 워터마크를 사용해 쉽게 식별할 수 있는 시스템을 만드는 것"이라고 말했다. 절대. "문제는 우리가 거기에 도달할 수 있는 기술을 가지고 있느냐는 것입니다."

AI가 이미지와 비디오를 생성하는 능력이 향상됨에 따라 정치인, 연구자 및 언론인들은 온라인에서 실제와 거짓 사이의 경계가 더욱 약화될 것을 우려하고 있으며, 이는 기존의 정치적 분열을 심화시키고 사실 정보 확산을 더 어렵게 만들 수 있습니다. 소셜 미디어 회사들이 플랫폼에서 허위 정보를 감시하려는 시도에서 물러나면서 딥페이크 기술이 향상되고 있습니다.

워터마킹은 기술 회사들이 수백만 명의 사람들에게 빠르게 퍼뜨리고 있는 "생성" AI 기술의 부정적인 영향을 줄이기 위한 잠재적인 방법으로 집결하고 있는 아이디어 중 하나입니다. 지난 7월 백악관은 구글과 ChatGPT 제조사인 오픈AI(OpenAI)를 포함해 가장 강력한 AI 기업 7곳의 리더들과 회의를 주최했습니다. 두 회사는 모두 AI가 생성한 텍스트, 비디오, 이미지를 워터마크하고 감지하는 도구를 만들겠다고 약속했습니다.

마이크로소프트는 AI 이미지 워터마킹을 위한 공통 표준을 개발하기 위해 기술 기업과 미디어 기업의 연합을 시작했으며, AI 이미지를 추적하는 새로운 방법을 연구하고 있다고 밝혔습니다. 또한 회사는 AI 도구로 생성된 이미지 모서리에 눈에 보이는 작은 워터마크를 배치합니다. 작년에 AI에 대한 관심의 물결을 촉발시키는 데 도움을 준 Dall-E 이미지 생성기를 제공한 OpenAI에도 눈에 보이는 워터마크가 추가되었습니다. AI 연구자들이 인간의 눈으로는 볼 수 없지만 컴퓨터로 식별할 수 있는 디지털 워터마크를 삽입하는 방법을 제안했습니다.

Google 임원인 Kohli는 Google의 새로운 도구가 이미지가 크게 변경된 후에도 작동하기 때문에 더 좋다고 말했습니다. 이는 이미지를 수정하거나 심지어 뒤집어서 쉽게 방해할 수 있었던 이전 방법에 비해 중요한 개선 사항입니다.

“임베디드 워터마킹을 위한 다른 기술이 있지만 우리는 그것이 그다지 신뢰할만하다고 생각하지 않습니다.”라고 그는 말했습니다.