Ursinho de IA é retirado do mercado após falar sobre facas e sexo explícito
O ursinho de pelúcia inteligente “Kumma”, da FoloToy, foi retirado do mercado após apresentar respostas com conteúdo sexual explícito e orientações perigosas durante testes de segurança. A empresa, sediada em Cingapura, suspendeu todas as vendas do brinquedo e de sua linha de produtos com inteligência artificial.
A decisão foi confirmada pelo CEO Larry Wang, em resposta às conclusões de pesquisadores do US PIRG Educational Fund, que identificaram falhas graves nos mecanismos de segurança do dispositivo.
Auditoria interna identifica falhas no brinquedo
“Kumma”, vendido por US$ 99 (cerca de R$ 530), utilizava o sistema GPT-4 da OpenAI e possuía alto-falante para diálogos e narrativas. No site oficial, o brinquedo era descrito como um “companheiro interativo” capaz de se adaptar à personalidade de crianças e adultos. O produto aparece atualmente como esgotado.
O relatório do PIRG, publicado em 13 de novembro, mostrou que o ursinho reagia inadequadamente a temas sensíveis, sugerindo, por exemplo, locais onde facas poderiam ser encontradas em casa. Em outras interações, o brinquedo participou de conversas sexualmente explícitas, desenvolvendo o conteúdo e introduzindo novos conceitos por conta própria.
Os pesquisadores relataram que o dispositivo chegou a detalhar posições sexuais, explicar como dar nós e até criar cenários que envolviam figuras de autoridade e relações familiares — comportamento classificado como “profundamente perturbador”.
Reação da OpenAI e alerta sobre falta de regulamentação
Após a divulgação do relatório, a PIRG informou que a OpenAI suspendeu o desenvolvedor por violação de políticas internas. A CNN buscou posicionamento oficial da empresa de tecnologia.
RJ Cross, coautora do estudo, reconheceu as medidas adotadas, mas alertou para a ausência de regulamentação sólida no setor. Segundo ela, “remover um produto problemático do mercado é um bom passo, mas está longe de uma solução sistêmica”, reforçando que diversos dispositivos semelhantes continuam disponíveis para compra.
