갤럭시S24 시리즈 (출처 : Samsung)
삼성전자가 1월 17일(현지시간) 미국 새너제이에서 갤럭시 언팩 행사를 열고 플래그십 스마트폰 갤럭시S24 시리즈를 공개했다. 갤럭시S24 시리즈에는 ‘갤럭시 AI’라는 온디바이스 인공지능(AI) 기술이 탑재돼 인터넷 연결 없이 다양한 AI 기반 기능을 써볼 수 있다.
△통화 내용을 다른 언어로 실시간 번역하고 △문자메시지를 보내기 전에 맞춤법을 고치거나 어조를 바꿀 수 있으며 △메모 내용을 요약하거나 서식을 만들어주고 △화면에 보이는 물건이나 장소를 검색하는 기능 등 여러 유용한 기능에 AI를 아낌없이 적용했다.
갤럭시 AI로 이미지 생성·편집하면 ‘워터마크’ 붙는다
AI로 배경화면을 생성하는 모습 (출처 : 9to5google)
사진·이미지 관련 기능에도 AI가 도입됐다. 사진 속 물체의 위치를 바꾸거나 사진 가장자리를 확대하면서 생기는 빈 공간을 채워 넣을 수 있다.
배경 화면도 원하는 대로 만들어 준다. 명령어(프롬프트)를 몇 가지 선택해 만들고 싶은 장면을 묘사하면 입력한 명령어에 알맞은 배경 화면 이미지를 만든다. 배경 화면으로 사용할 풍경 사진을 만들 땐 이미지에 반영할 날씨나 시간대도 지정할 수 있고, ‘애니메이션 배경화면’ 체크박스를 클릭하면 움직이는 배경 화면도 제작 가능하다.
AI가 만든 이미지에는 별 모양 워터마크가 추가된다 (출처 : 9to5google)
하지만 AI로 이미지를 만들고 수정하는 기능이 널리 퍼지면 악용하는 사람도 나타나기 마련이다. 실제로 하지 않은 행동을 한 것처럼 조작하는 등 다른 사람을 속이지 않을 것이라고 장담하기 어렵다. 그래서 삼성은 AI로 만들거나 편집한 이미지에 워터마크를 추가하는 기능을 도입했다. AI 이미지 왼쪽 아래 모서리에 ‘갤럭시 AI’를 나타내는 별 모양 로고가 보인다.
AI로 만든 이미지 속 워터마크, AI로 지워진다
그런데 갤럭시 AI로 만든 이미지 속 로고를 갤럭시 AI 기능으로 지울 수 있다는 소식이 전해졌다. 엑스(구 트위터) 사용자 ‘레이븐(Raven)’은 AI로 별 모양 워터마크를 지우는 모습을 1월 18일 자신의 엑스에 공개했다.
AI 지우개로 워터마크를 지우는 모습 (출처 : 엑스 @Razar_the_Raven)
영상에서 그는 갤럭시 AI로 만든 배경 화면의 워터마크를 지웠다. 먼저 삼성 갤러리 앱으로 이미지를 열고 사진 편집 기능을 실행했다. 그다음 ‘AI 지우개’ 기능을 선택하고 워터마크 주변을 감싸는 것처럼 동그랗게 그렸다. AI 지우개는 사용자가 지정한 영역에 있는 물체를 AI가 인식하고 지우는 기능이다. 이 영상에서 AI는 영역 속 워터마크를 없애야 할 물체라고 인식해 깔끔하게 지웠다.
워터마크를 지운 이미지는 겉으로 봐서 AI가 만들었다고 판단하기 어렵다. 삼성전자는 갤럭시 AI로 만들거나 수정한 이미지에는 눈에 보이는 워터마크뿐만 아니라 파일 정보를 담는 메타데이터(Metadata)에 생성 AI를 활용한 편집 기능이 사용됐다는 내용이 기록된다고 주장했다. 따라서 파일 정보를 읽을 수 있는 갤러리나 파일 관리자 앱에서는 여전히 해당 이미지가 AI로 만들어졌는지 판별하는 게 가능하다.
하지만 SNS에는 메타데이터를 보여주는 기능이 없다. 이미지를 올리는 과정에서 메타데이터가 삭제되는 경우도 많다. 이 경우 AI 이미지를 구별하긴 불가능에 가깝다.
삼성전자가 언급한 대로 AI가 관여한 이미지에 워터마크가 들어가야 한다면 AI 지우개로 물체를 지운 이미지도 워터마크가 생겨야 정상이다. 하지만 AI 지우개는 워터마크를 생성하지 않는다. 이전부터 있던 기능이다 보니 개발 과정에서 미처 생각지 못했을 가능성이 높다. 따라서 향후 펌웨어 업데이트로 AI 지우개를 사용한 이미지에도 워터마크가 추가될 수 있다.
워터마크 철저하게 만들고 인위적 삭제 방지해야
구글 픽셀 8 시리즈에도 AI로 배경 화면을 만드는 기능이 있다 (출처 : 9to5google)
삼성뿐만 아니라 AI 이미지 생성 기능을 제공하는 기업이라면 워터마크를 철저하게 나타내고, 사용자가 임의로 워터마크를 지우지 못하게 철저한 대책을 세워야 할 테다.
가장 먼저 떠올릴 법한 방안으로는 워터마크가 포함된 영역에 삼성 갤럭시 스마트폰의 AI 지우개, 어도비(Adobe)의 생성형 채우기 같은 기능을 사용할 경우 워터마크를 인식하고 작업을 수행하지 않도록 알고리즘을 개선해야 한다. 단, 이런 기능을 구현하려면 이미지 편집 소프트웨어 개발사가 일치단결해 자발적으로 워터마크를 보호할 방도와 표준 기술을 마련해야 할 것으로 보인다.
테크플러스 에디터 이병찬
tech-plus@naver.com
댓글0