울산 21º
습도 80%
제주 24º
습도 85%
이 확산되면서 여러 문제점들이 드러나고 ...'))
감정 교류 인공지능(AI)이 확산되면서 여러 문제점들이 드러나고 있다. 이에 따라 감정 교류 AI에 대한 가이드라인이 마련됐다.
사단법인 국제인공지능윤리협회는 국내 최초로 ‘감정 교류 AI 윤리 가이드라인’을 제정·발표했다고 15일 밝혔다.
최근 전 세계적으로 AI 챗봇과 감정을 교류하고 정서적으로 의존하는 사례가 급증하면서 관련 윤리 기준 마련의 필요성이 제기돼 왔다. 국내외에서 청소년들의 감정 교류 전문 AI 챗봇의 사용 시간이 ChatGPT를 넘어서는 등 이용이 급증하고 있다.
이번 가이드라인은 총 5장(△총칙 △윤리적 기반 △국내외 동향 및 기준 △실천 지침 △행동강령과 확산 체계)과 부록으로 구성됐다. 감정 교류 AI의 개발·제공·이용 전 과정에서 모든 이해관계자가 준수해야 할 핵심 윤리 원칙과 실천 지침을 제시한다.
가이드라인은 먼저 감정 교류 AI의 확산 경향과 그에 따른 위험성을 지적했다. OpenAI와 MIT 미디어랩의 공동 연구에 따르면 400만 건 이상의 실제 대화를 분석한 결과 사용 시간 상위 10% 이용자 대화의 절반 이상에서 정서적 신호가 확인됐다. 일부 이용자는 하루 평균 30분 이상 AI와 감정적 대화를 지속하는 것으로 나타났다.
가이드라인은 감정 교류 AI의 확산이 △감정적 조작 △심리적 의존 △알고리즘 편향과 차별 △프라이버시 침해 등 복합적인 위험을 내포한다고 경고했다.
가이드라인은 ‘인간 존엄성과 정서적 안전’을 가장 본질적인 과제로 제시했다. AI가 사용자의 감정적 취약성을 이용하거나 존엄성을 훼손할 경우 신체적 피해 이상의 깊은 심리적 손상이 발생할 수 있다는 것이다.
또한 감정 설계와 윤리의 경계를 명확히 했다. AI가 감정을 표현할 수는 있어도 경험하지는 못함에도 사용자가 이를 실제 감정으로 인식할 경우 자율성 침해와 의존성이 발생할 수 있다.
가이드라인은 △사용자·소비자 △서비스 제공자 △정책기관 및 입안자 등 주체별 역할과 책임을 구체적으로 명시했다.
사용자는 △AI가 인간이 아닌 기술적 모의임을 명확히 인식 △과도한 의존 경계 △개인정보 자기결정권 행사 △공정성·접근성 요구 △올바른 활용과 사회적 책임 등을 지켜야 한다.
서비스 제공자에게는 ‘LAMP’ 원칙을 제시했다. LAMP 원칙은 △데이터 최소 수집 △AI임을 명확히 고지 △지속적 점검과 검증 △개인정보와 취약 계층 보호로 구성된다.
정책기관은 △인간의 정신적 건강 보호 명시 △감정 교류 AI를 고영향 인공지능 범위에 포함 △영향 평가 및 인증시스템 구축 △사업자 책무 강화 △고위험 분야 관리 기준 마련 △사용자 피해 구제 체계 마련 등의 역할을 수행해야 한다.
전창배 국제인공지능윤리협회 이사장은 “본 가이드라인의 가장 큰 특징은 선언적 원칙에 그치지 않고 사용자·서비스 제공자·정책기관 등 주체별로 구체적인 실천 지침과 행동강령을 제시했다는 점”이라며 “특히 서비스 제공자를 위한 자가 점검 체크리스트를 부록으로 제공해 현장에서 바로 활용할 수 있도록 했다”고 설명했다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
