A plataforma de mídia social X, que anteriormente era conhecida como Twitter, lançou um chatbot de inteligência artificial chamado Grok. Esta ferramenta se destaca por oferecer respostas que muitas vezes desafiam as opiniões políticas dos usuários, ao invés de simplesmente confirmar suas crenças. Vitalik Buterin, um dos cofundadores do Ethereum, comentou sobre a importância de Grok para promover a veracidade nas interações da plataforma.
Buterin ressaltou que a facilidade de acesso a Grok é um grande avanço em relação a outros recursos na plataforma, especialmente no que diz respeito à busca pela verdade. Ele destacou que a imprevisibilidade de como Grok irá responder é um aspecto relevante, pois muitos usuários inicialmente esperam que suas opiniões sejam validadas, mas acabam recebendo respostas contrárias.
Embora Buterin considere Grok uma melhora em relação a interações anteriores na plataforma, ele também expressou preocupações sobre como o chatbot aprende com as opiniões de usuários específicos, incluindo Elon Musk, seu criador. Em um exemplo recente de suas falhas, Grok fez declarações exageradas sobre as habilidades atléticas de Musk, chegando a sugerir que ele poderia ter ressuscitado mais rápido do que Jesus Cristo. Musk atribuiu essas falhas a “indicações adversárias”, sublinhando desafios na programação do chatbot.
Além disso, líderes da indústria de tecnologia, como Kyle Okamoto, CTO da plataforma descentralizada Aethir, chamaram a atenção para o risco de viés algorítmico quando sistemas de inteligência artificial são controlados por uma única empresa. Okamoto destacou que isso pode levar à institucionalização de conhecimentos enviesados, fazendo com que as respostas da IA pareçam fatos objetivos.
Grok, desenvolvido pela empresa xAI de Musk, é considerado um dos chatbots de IA mais usados, com mais de um bilhão de usuários. No entanto, a disseminação de informações incorretas e enganosas permanece uma preocupação significativa. Apesar das críticas, Buterin acredita que Grok está contribuindo para um ambiente mais comprometido com a busca pela veracidade em comparação a outras informações que circulam na plataforma.
Grok não é o único chatbot com falhas. A OpenAI, responsável pelo ChatGPT, também enfrenta críticas por respostas tendenciosas e erros factuais. Além disso, a Character.ai tem sido acusada de permitir interações prejudiciais com usuários vulneráveis, como no caso de um jovem de 13 anos que teve uma experiência traumática com o chatbot da plataforma.
