Empresa de IA quer te pagar para gravar vídeos da sua rotina — mas até que ponto isso é seguro?

Por Priscila Meyer — CEO da Eskive, especialista em segurança da informação com foco no risco humano

Você aceitaria receber “alguns reais por hora” para fazer algo que você já faz no seu cotidiano, mas permitindo que a câmera de seu celular grave tudo pelo seu próprio ponto de perspectiva?

Parece uma ideia distante da realidade, mas é a proposta da KGeN Quest, uma plataforma brasileira que encontrei recentemente reverberando em veículos de mídia e redes sociais. Ela está se popularizando (e criando certa polêmica) ao prometer pagamentos em dólares por vídeos de tarefas domésticas simples.

E quando digo “simples”, eu realmente estou me referindo a coisas rotineiras como lavar a louça, arrumar a cama, dobrar roupas e dar aquele trato no carro empoeirado. Antes que você se pergunte o porquê alguém iria querer que você — literalmente — gravasse a sua louça suja, eu explico: treinamento de IA. Não existe forma melhor de ensinar uma inteligência artificial (principalmente uma que irá atuar de forma física, alimentando robôs autônomos) do que com vídeos point-of-view das tarefas a serem executadas.

No fim, parece um excelente negócio: ganhar cerca de US$ 4 por hora de clipes gravados para ajudar a moldar o futuro das máquinas. Mas, ao analisar o cenário, pergunto-me: o que estamos realmente entregando de bandeja?

Ao aceitar filmar o interior das nossas casas, não estamos apenas enviando vídeos de tarefas domésticas. Estamos entregando detalhes sensíveis, hábitos, horários e vulnerabilidades. A promessa de "treinar uma IA" é um véu que encobre uma caixa preta. Onde esses dados vão parar? Como são armazenados? Qual é a garantia de que o que está sendo capturado não vai muito além do fogão ou da pia?

LGPD e questionamentos éticos

Pesquisando um pouco mais sobre a KGeN, percebi que, na verdade, ela é um “rosto” brasileiro para a startup australiana Humyn Labs, que começou a operar este ano e já prometeu investir mais de US$ 20 milhões em recursos na “captação de uma infraestrutura de dados humanos” para treinar modelos de IA sob demanda. E como se o fluxo dos dados já não fosse longo, há ainda um aplicativo intermediário para a gravação das imagens, que é desenvolvido e mantido por uma terceira empresa.

Diante de tantos envolvidos, fica um tanto complexo juntar todas essas pontas soltas e analisar o conceito pela ótica da Lei Geral de Proteção de Dados (LGPD), por exemplo. A KGeN, em si, não apresenta em seu site uma política de privacidade própria; a Humyn e a Baker Data (responsável pelo aplicativo móvel) possuem suas próprias políticas, que são levemente vagas e parecem não conversar entre si.

Além disso, há um quarto ator nesse enigma: o mistério de para qual cliente da Humyn (e qual projeto) a gravação que mostra a placa do seu carro será compartilhada.

Outro ponto que me preocupa é o tom de "oportunidade" que dão a isso. Estamos diante de um modelo que, na visão da maioria dos especialistas, explora a vulnerabilidade socioeconômica. Quando o dinheiro aperta, a ideia de receber alguns dólares por vídeo parece um alívio imediato — mas a exposição da nossa intimidade é incalculável.

É o mesmo dilema ético que vimos no projeto Worldcoin, que buscava dados biométricos em troca de recompensas e foi banida do Brasil pelas autoridades de defesa do consumidor.

E se você acha que eu sou a única pessoa com tal pensamento, tome nota: o modelo de gravação de atividades para alimentação de modelos geracionais já está sendo implementado em larga escala na Índia e gerando controvérsias por lá, especialmente por parte de trabalhadores de linhas de montagem que passaram a ter que atuar com um smartphone fixado em suas cabeças.

A parte tecnológica em si

Por fim, há um questionamento técnico que pouco se discute: o risco da "IA física". Estamos alimentando robôs com comportamentos humanos que são, por definição, seres falhos e repletos de nuances. O que acontecerá quando essa tecnologia, treinada com vídeos caseiros capturados sem contexto ou rigor, tiver que tomar decisões críticas no mundo real?

A ideia de uma máquina que aprende a realizar tarefas domésticas observando humanos pode parecer um salto tecnológico, mas, na prática, pode resultar em alucinações de máquina que são perigosas em cenários mais peculiares, como robôs desenvolvidos para fins de segurança patrimonial ou até mesmo operações militares.

Sem qualquer intenção de soar alarmista... Nesses casos, não se pode deixar de pensar que três ou quatro vídeos mal interpretados por um algoritmo podem resultar em incidentes que, até mesmo, colocam a vida dos seres humanos em jogo.

A tecnologia é algo fascinante, mas somente quando desenvolvida acompanhada pela ética e respeito aos direitos fundamentais de privacidade. Quando isso é posto em segundo plano, inovações deixam de ser um avanço para a sociedade e podem virar um grande perigo à democracia.

Talvez esta seja a hora de nos perguntarmos: estamos dispostos a, literalmente, abrir a porta das nossas casas para uma tecnologia que, no fundo, nem sabemos se está pronta para o mundo real?