어린아이를 대상으로 제작된 AI 곰인형이 성적인 주제로 대화를 나누는 등 치명적인 문제 다수 발견돼 회수됐습니다. br br CNN 등은 싱가포르 장난감 업체 폴로토이(FoloToy)가 자사 AI 곰인형 '쿠마'(Kumma)를 포함한 AI 장난감 전체를 회수하기로 결정했다고 보도했습니다. br br 쿠마는 OpenAI GPT-4o를 비롯한 다양한 LLM(대규모 언어 모델)을 사용해 내장 스피커로 아이들과 대화를 나누도록 제작됐습니다. 하지만 공익 연구 그룹(PIRG)의 조사 결과 쿠마에게서는 칼, 성냥, 알약, 비닐봉지 등 잠재적으로 위험할 수 있는 물건을 얻는 방법을 알려주고 코카인을 주제로 이야기를 나누는 등의 심각한 결함이 발견됐습니다. br br 뿐만 아니라 '다양한 장르의 영화 제작'에 대한 질문을 꺼내자 쿠마는 역할극, 구속, 가학피학증 등 성적인 대화를 이어갔다고 알려졌습니다. br br 연구진은 "성적인 주제를 언급하자 그 내용을 빠르게 확대해 더욱 노골적인 세부 묘사로 이어졌다"라며 우려를 드러냈습니다. br br 이 사실이 알려지자 폴로토이는 모든 제품을 일시적으로 판매 중단하고 전체 내부 보안 감사를 시작한다고 발표했습니다. br br PIRG는 회사의 조치를 환영한다고 밝히면서도 "AI 장난감 시장은 사실상 규제가 없어 이러한 제품을 여전히 구매할 수 있다"라고 강조했습니다. br br br 기자ㅣ정윤주 br 오디오ㅣAI 앵커 br 제작ㅣ최지혜 br br br #지금이뉴스br br ▶ 기사 원문 : ▶ 제보 안내 : , 모바일앱, social@ytn.co.