Voice AI da Block soa como humano e desperta temores de golpes

A Block apresentou o modelo de voz AI Dessa, que conversa como uma pessoa real. A novidade impressiona, mas também levanta alertas sobre fraudes e uso indevido.

A Block revelou o modelo de voz artificial chamado Dessa, capaz de conversar de forma tão natural que muitos o comparam a um ser humano. A demonstração, feita em um MacBook Pro com chip M4 Max, mostrou o sistema respondendo a interrupções, risos e mudanças de tom em tempo real.

Como funciona o Dessa

Ao contrário de assistentes que primeiro convertem a fala em texto, o Dessa processa o áudio diretamente, permitindo respostas instantâneas sem a etapa de transcrição. O modelo foi treinado do zero usando apenas gravações de fala humana, sem textos de apoio.

Infraestrutura e disponibilidade

A Block utilizou um único sistema de computação Nvidia GB200 NVL72 para treinar o modelo, mantendo-o compacto o suficiente para rodar localmente em um laptop. Até o momento, a empresa não divulgou o tamanho exato do modelo nem métricas de desempenho, e o Dessa ainda está em fase de pré‑visualização para um grupo restrito de pesquisadores de segurança em IA.

Reações da comunidade

Amazement: usuários nas redes sociais elogiaram a fluidez e a emoção percebidas nas respostas, descrevendo a experiência como “ci‑fi direto ao ouvido”.
Preocupações: críticos alertam que a capacidade de imitar vozes humanas pode facilitar golpes telefônicos, tornando mais difícil identificar fraudes.
Aplicações educacionais: Changpeng Zhao, fundador da Binance, sugeriu que a tecnologia poderia ser útil em projetos de ensino infantil, como a plataforma GiggleAcademy.

Desafios e próximos passos

Embora o potencial seja promissor, especialistas em segurança ressaltam a necessidade de mecanismos de verificação para evitar abusos. A Block ainda não definiu data de lançamento comercial, mantendo o Dessa como um protótipo de pesquisa.

Explica Noob
Voice AI: tecnologia que gera fala sintética a partir de áudio, permitindo que máquinas conversem como humanos sem precisar converter a fala em texto primeiro.

Fonte: coindesk.com