Notícias

Sep 06, 2023

A Microsoft está limitando as consultas diárias do Bing AI • The Register

AI em breve A Microsoft começará a limitar a duração das conversas com seus

AI em breve A Microsoft começará a limitar a duração das conversas com seu chatbot Bing orientado a AI para 50 turnos por dia, em uma tentativa de evitar que ele gere respostas desequilibradas às consultas do usuário.

As pessoas relataram que o recurso de bate-papo implantado no navegador Edge da empresa enlouqueceu depois de ser investigado por muito tempo. O Bing ameaçou os usuários, iludiu-os e tornou-se emocionalmente manipulador. Chegou a afirmar que estava apaixonado por uma repórter – e mandou que ele deixasse a esposa.

(Um bom repórter fará de tudo para conseguir uma história, mas você tem que traçar uma linha em algum lugar.)

Em uma tentativa de domar o comportamento perturbado do Bing, a Microsoft anunciou que estava limitando os usuários a 50 turnos de bate-papo por dia e não mais do que cinco turnos de bate-papo por sessão. "Um turno é uma troca de conversa que contém uma pergunta do usuário e uma resposta do Bing", explicou a empresa.

Embora seja fácil pensar no Bing como tendo uma personalidade, o chatbot é apenas um software que não entende o que está dizendo.

Treinado para assumir um tom de conversa, ele imita o diálogo humano e pode começar a sair dos trilhos se for feito perguntas carregadas de emoção. Infelizmente, a IA às vezes pode começar a fazer isso quando também faz perguntas aparentemente benignas.

"Depois que uma sessão de bate-papo atinge cinco turnos, as pessoas serão solicitadas a iniciar um novo tópico. Ao final de cada sessão de bate-papo, o contexto precisa ser limpo para que o modelo não fique confuso", esclareceu a Microsoft.

O Google está pedindo à equipe que melhore seu chatbot AI, Bard, para ser usado em pesquisas na web, reescrevendo o texto gerado pelo software. O vice-presidente de pesquisa do gigante de anúncios, Prabhakar Raghavan, teria enviado um e-mail aos funcionários pedindo sua ajuda para garantir que as respostas de Bard fossem precisas e apropriadas.

"Esta é uma tecnologia empolgante, mas ainda está em seus primeiros dias", escreveu ele, segundo a CNBC. “Sentimos uma grande responsabilidade em acertar, e sua participação no dogfood ajudará a acelerar o treinamento do modelo e testar sua capacidade de carga (sem falar que experimentar o Bard é realmente muito divertido!).

"Bard aprende melhor pelo exemplo, então reservar um tempo para reescrever uma resposta cuidadosamente nos ajudará a melhorar o modo", acrescentou.

O CEO Sundar Pichai recomendou que os funcionários gastassem cerca de duas a quatro horas de seu tempo no Bard e observou: "esta será uma longa jornada para todos, em todo o campo". Embora grandes modelos de linguagem como o Bard estejam sendo divulgados como uma forma revolucionária de pesquisar informações na Internet, eles tendem a gerar respostas não confiáveis ​​e exigem dados limpos escritos por humanos para aprender.

Dados melhores não tornam esses modelos perfeitos, mas geralmente aumentam seu desempenho.

A Lei de IA da UE, destinada a regulamentar a tecnologia para proteger os usuários de danos e preconceitos algorítmicos, está sendo adiada enquanto os legisladores estão negociando seus termos finais.

Esperava-se que o projeto de lei fosse aprovado para os estados membros votarem no final do próximo mês, mas pode ser adiado porque as autoridades não conseguem chegar a um acordo sobre os princípios básicos, de acordo com a Reuters. As políticas devem ser rígidas o suficiente para neutralizar a falta de transparência da IA ​​e a tendência de produzir resultados tendenciosos, protegendo a privacidade dos dados – sem suprimir o desenvolvimento e o investimento.

"A tensão óbvia aqui é entre o foco nos direitos fundamentais, por um lado, e aqueles que dizem que eles necessariamente entram em conflito com a inovação", disse o eurodeputado Sergey Lagodinsky, que representa o partido dos Verdes na Alemanha. Os legisladores estão lutando para decidir quais aplicativos de IA devem ser rotulados como de "alto risco" e sujeitos a regras mais rígidas.

Não está claro quando o projeto de lei avançará para os próximos estágios legislativos. "O arquivo é longo e complexo, os eurodeputados estão trabalhando duro para chegar a um acordo sobre seu mandato para negociações. No entanto, não há prazo ou calendário para os próximos passos", disse um legislador.

A IA pode ocupar os empregos dos arquitetos à medida que os modelos de geração de imagens melhoram no design de edifícios, interiores de salas e muito mais.