글로벌 인터넷 보안 업체 노드VPN은 최근 인기몰이 중인 AI 챗봇 이용 시 유의해야 할 세 가지 사항을 공유했다.
올해 2월 통계청이 발표한 ‘국민 삶의 질 2023’ 보고서에 따르면, 우리나라 국민의 삶의 만족도(2020~2022년 기준)는 OECD(경제협력개발기구) 최하위권이었다. 10점 만점에 6.0점으로 39개국 가운데 36위였다. OECD 평균치는 6.7점에 비해 낮은 수치로, 국민들의 행복 지수가 평균에 비해 현저히 낮음을 알 수 있다.
이런 사실과 함께, AI를 기반으로 한 건강 관리 앱이 유행이다. 발전된 AI 기술로 개인의 건강상태나 증상 정보를 분석해 주거나, 상담을 명목으로 진짜 사람처럼 대화를 이어 나갈 수 있는 AI 챗봇 서비스가 늘고 있다. 일례로, 최근 출시된 노인 건강 관리 앱 ‘경기도 AI+돌봄 계획’은, 노인 인구가 급증하는 세태에 맞춰 AI 기술로 노인들의 주기적인 안부를 확인하고, 건강 및 심리 관련 상담을 수행한다.
하지만 정신 건강 전문가들은 급속도로 퍼져 나가고 있는 AI 챗봇과 같은 툴이 적절히 사용하면 경도의 우울감과 불안감, 또 번아웃을 해소하는데 일정 부분 도움을 줄 수 있으나, 결국 프로그램 내의 규격화된 데이터를 기반으로 대응을 하기 때문에 사용자의 성격이나 상태에 대한 미묘한 세부 사항을 놓쳐 더 큰 병리적 문제를 야기할 수 있다고 경고한다.
또, 일부 AI 툴은 개인적인 신상 정보는 물론 행동, 수면 패턴, 신체적 활동과 심박수 등의 내밀한 정보, 내면의 깊은 정서에 대한 정보까지 수집하므로 이 정보가 유출될 시 심각한 프라이버시 침해로 이어질 수 있다.
이에 노드VPN은 정신적 외로움이나 의존 욕구를 해소하기 위한 수단으로 AI 툴을 이용할 시 ▲믿을만한 앱 사용하기 ▲개인정보에 유출에 대한 위험성 인식하기 ▲모든 정보가 보호되지 않는다는 점을 명심해야 한다는 세 가지 주의사항을 공유했다.
챗봇은 실제 인간을 대체하기 위해 만들어졌지만, 대부분의 AI챗봇은 정신 건강에 어려움을 느끼는 사람들에게 실질적인 도움을 주지 못한다. 국가의 유관 부처가 운영하는 공공 어플리케이션이나 병원에서 운영하는 공인된 툴을 사용하는 것이 좋고, 보다 심각한 상황에 대한 도움이 필요하다면 반드시 전문가와의 상의를 통해 해결하는 것이 바람직하다.
일부 AI 툴은 신체·정신적인 정보는 물론, 사용자의 기분과 인지 상태를 파악한다는 목적으로 전화 통화의 음성 녹음 데이터까지 수집한다. 이런 정보들은 사용자의 개인정보에 대한 유출, 침해 또는 심각한 해킹의 위험에 노출시킬 수 있기 때문에 사용에 유의해야 한다. 특히, 로맨스와 관련된 AI 챗봇은 광고의 목적으로 종종 제3자에게 사용자의 개인정보를 공유하는 많은 추적기를 가지고 있기 때문에, 더욱 사용에 유의해야한다.
AI챗봇과의 모든 대화가 철저히 비밀로 유지되지 않는다는 점을 항상 명심해야한다고 보안 전문가들은 조언한다. 대화 중 공개되는 “개인 정보”에 대한 범위는 툴마다, 사람마다 아주 주관적이고 모호하다. 사용 중 AI 챗봇과 나눈 대화가 제3자에게 전달될 수 있다는 점을 항상 인식하고 있어야 한다.
아드리아누스 바르멘호벤(Adrianus Warmenhoven) 노드VPN 사이버 보안 고문은 “최근 정신 건강을 돕는 AI 기반의 앱들이 범람하고 있는데, 일부 승인된 앱을 제외하고는 전문성이 없는 마케팅 봇에 불과하다.”라고 말하며, “AI는 결코 남자친구나 여자친구가 될 수 없으며, 정신 건강의 근본적 문제를 해결해 줄 수 없을뿐만 아니라, 의존성을 유발하고 개인정보까지 유출할 수 있음을 명심해야한다.”고 밝혔다.
댓글0