blog

Nov 12, 2023

Um Roomba gravou uma mulher no banheiro. Como as capturas de tela foram parar no Facebook?

As empresas de vácuo de robôs dizem que suas imagens são seguras, mas uma oferta global em expansão

As empresas de vácuo de robôs dizem que suas imagens são seguras, mas uma cadeia de fornecimento global em expansão para dados de nossos dispositivos cria riscos.

No outono de 2020, funcionários de shows na Venezuela postaram uma série de imagens em fóruns online onde se reuniram para conversar sobre trabalho. As fotos eram cenas domésticas mundanas, embora às vezes íntimas, capturadas de ângulos baixos - incluindo algumas que você realmente não gostaria de compartilhar na Internet.

Em uma cena particularmente reveladora, uma jovem com uma camiseta lilás está sentada no vaso sanitário, o short puxado até o meio da coxa.

As imagens não foram tiradas por uma pessoa, mas por versões de desenvolvimento do robô aspirador da série Roomba J7 da iRobot. Eles foram então enviados para a Scale AI, uma startup que contrata trabalhadores em todo o mundo para rotular dados de áudio, foto e vídeo usados ​​para treinar inteligência artificial.

Eram os tipos de cenas que os dispositivos conectados à Internet capturam e enviam regularmente de volta para a nuvem – embora geralmente com armazenamento e controles de acesso mais rígidos. No entanto, no início deste ano, o MIT Technology Review obteve 15 capturas de tela dessas fotos privadas, que foram postadas em grupos fechados de mídia social.

As fotos variam em tipo e sensibilidade. A imagem mais íntima que vimos foi a série de fotos de vídeo com a jovem no banheiro, seu rosto bloqueado na imagem principal, mas não obscurecido na rolagem granulada de fotos abaixo. Em outra imagem, um menino que parece ter oito ou nove anos, e cujo rosto é claramente visível, está esparramado de bruços no chão de um corredor. Uma mecha triangular de cabelo cai em sua testa enquanto ele olha, com aparente diversão, para o objeto que o registra logo abaixo do nível dos olhos.

As outras fotos mostram quartos de casas ao redor do mundo, alguns ocupados por humanos, um por um cachorro. Móveis, decoração e objetos localizados no alto das paredes e tetos são contornados por caixas retangulares e acompanhados de rótulos como "tv", "planta_ou_flor" e "luz de teto".

iRobot - o maior fornecedor mundial de aspiradores robóticos, que a Amazon adquiriu recentemente por US $ 1,7 bilhão em um acordo pendente - confirmou que essas imagens foram capturadas por seu Roombas em 2020. Todas elas vieram de "robôs de desenvolvimento especial com modificações de hardware e software que são não e nunca estiveram presentes nos produtos de consumo da iRobot para compra", disse a empresa em um comunicado. Eles foram dados a "coletores e funcionários pagos" que assinaram acordos por escrito reconhecendo que estavam enviando fluxos de dados, incluindo vídeo, de volta à empresa para fins de treinamento. De acordo com a iRobot, os dispositivos foram rotulados com um adesivo verde brilhante que dizia "gravação de vídeo em andamento" e cabia aos coletores de dados pagos "remover qualquer coisa que considerassem sensível de qualquer espaço em que o robô operasse, incluindo crianças".

Você participou dos esforços de coleta de dados da iRobot? Nós adoraríamos ouvir de você. Entre em contato com[email protected].

Em outras palavras, pela estimativa da iRobot, qualquer pessoa cujas fotos ou vídeos aparecessem nos streams concordaram em deixar seus Roombas monitorá-los. A iRobot recusou-se a permitir que o MIT Technology Review visse os acordos de consentimento e não disponibilizou nenhum de seus coletores pagos ou funcionários para discutir sua compreensão dos termos.

Embora as imagens compartilhadas conosco não tenham vindo de clientes da iRobot, os consumidores consentem regularmente em ter nossos dados monitorados em vários graus em dispositivos que variam de iPhones a máquinas de lavar. É uma prática que se tornou mais comum na última década, à medida que a inteligência artificial faminta por dados foi cada vez mais integrada a uma nova gama de produtos e serviços. Grande parte dessa tecnologia é baseada em aprendizado de máquina, uma técnica que usa grandes volumes de dados – incluindo nossas vozes, rostos, casas e outras informações pessoais – para treinar algoritmos para reconhecer padrões. Os conjuntos de dados mais úteis são os mais realistas, tornando os dados provenientes de ambientes reais, como residências, especialmente valiosos. Muitas vezes, optamos simplesmente por usar o produto, conforme observado nas políticas de privacidade com linguagem vaga que dá às empresas ampla liberdade de como disseminar e analisar as informações do consumidor.