(ONDE ESTAMOS?) AI 'Nanny Bots' prometem 'amizade genuína' às crianças - mas especialistas alertam para danos ao desenvolvimento cognitivo e social <TECHNOCRACY
(ONDE ESTAMOS?) AI 'Nanny Bots' prometem 'amizade genuína' às crianças - mas especialistas alertam para danos ao desenvolvimento cognitivo e social <TECHNOCRACY
Os produtos de inteligência artificial (IA) voltados para crianças prometem entretenimento e conexão, mas os especialistas temem que a tecnologia possa distorcer o desenvolvimento das crianças
CHILDERN’S HEALTH DEFENSE
Monica Dutcher AND John-Michael Dumais - 17 AGOSTO, 2023
- TRADUÇÃO: GOOGLE / ORIGINAL, + IMAGENS, VÍDEOS E LINKS >
https://childrenshealthdefense.org/defender/artificial-intelligence-nanny-babysitter-children/
Os inovadores da tecnologia vêm alertando há algum tempo sobre as desvantagens da inteligência artificial (IA), desde a criação de vídeos deepfake até a perda de empregos até a extinção total da humanidade.
Mas o que falta na maioria dessas discussões é como a IA afeta diretamente as crianças – mesmo que a tecnologia já esteja aqui, nas salas de jogos e quartos das crianças.
Os fabricantes já oferecem uma ampla seleção de produtos habilitados para IA para crianças, com a próxima geração de dispositivos de IA “provavelmente se tornando babás eletrônicas” – “babás de IA” ou “bots de babá” – e usados como televisão e videogames para aliviar as tarefas de cuidado.
A interface da tecnologia com as crianças levanta questões importantes sobre seu efeito no desenvolvimento emocional e neurológico e na privacidade delas.
Dra. Michelle Perro, co-autora de "What's Making our Children Sick?" que passou 40 anos na prática pediátrica, disse ao The Defender:
“A comunicação entre pais e filhos é mais do que apenas uma interação neural. Elementos incomensuráveis existem além da comunicação verbal – como expressões faciais, variações tonais e as trocas energéticas muitas vezes desconsideradas que acontecem entre os humanos que são impossíveis de capturar pela IA.
“As crianças aprendem com seis sentidos, e a inteligência emocional transmitida por meio da comunicação é parte fundamental desse aprendizado. Sem mencionar que existem variações culturais que são transmitidas no desenvolvimento da linguagem e da comunicação que seriam perdidas com babás de IA.”
Semelhante às inovações das gerações anteriores, os produtos alimentados por IA visam envolver as crianças, aprimorar certos conjuntos de habilidades e facilitar a vida dos pais.
Por exemplo, o Moxie Robot é considerado o “robô de IA mais avançado para crianças com mais de cinco anos”. Destina-se a ajudar as crianças com habilidades como processar e expressar emoções.
Miko - outro companheiro de IA - promete "amizade genuína" para as crianças, reconhecendo-as e chamando-as pelo nome e respondendo ao seu humor.
“Precisa de uma piada quando estiver triste? Uma dança quando você está entediado? Miko está nisso ”, afirma o site do produto. “Porque não é apenas o robozinho mais inteligente que você já conheceu. Também é seu amigo.
Hoje, as crianças interagem rotineiramente com a IA por meio de dispositivos domésticos como smartphones (“Hey Siri”) e dispositivos de automação residencial (“Hey Google”) para ligar e desligar luzes e listas de reprodução de música e obter respostas para uma ampla gama de perguntas.
Sandra Chang-Kredl, Ph.D., professora associada do Departamento de Educação da Concordia University em Montreal, Canadá, disse ao The Globe and Mail:
“Queremos que as crianças pensem que brinquedos ou objetos são tão bons quanto animais de estimação de verdade, amigos de verdade ou humanos de verdade? Isso me preocupa. … Como será quando as crianças forem propositadamente encorajadas a confundir o que é um objeto e o que é uma coisa viva?”
A IA não se limita a robôs e dispositivos.
Por exemplo, a plataforma de mídia social Snapchat lançou o “My AI” com tecnologia ChatGPT em fevereiro, projetado para ser um “chatbot experimental e amigável” e um “ajudante pessoal”.
Embora os termos de serviço do Snapchat exijam que os usuários tenham pelo menos 13 anos de idade, não há verificação de idade, facilitando a inscrição e o uso do serviço por crianças menores.
Essas ferramentas de IA mais desencarnadas, embora não sejam físicas como babás-robôs, se não forem cuidadosamente monitoradas pelos pais e regulamentadas pelos governos, podem substituir as conexões sociais reais e minar as habilidades que as crianças precisam para negociar relacionamentos em um mundo complexo, disseram especialistas em desenvolvimento infantil ao The Defensor.
Abraços, brincadeiras e interações cara a cara "não podem ser terceirizados"
É muito cedo para saber como a IA afetará o desenvolvimento infantil, mas os especialistas podem fazer algumas suposições.
A Dra. Liz Mumper, presidente e CEO do The Rimland Center for Integrative Medicine, disse que pensar em babás com IA “provoca uma resposta de medo inata” dentro dela.
Mumper disse ao The Defender:
“Acabamos de ver os efeitos devastadores no desenvolvimento infantil durante as contramedidas do COVID. Inovações que mantêm as pessoas mais distantes, denigrem o papel dos humanos na criação dos filhos e elevam a tecnologia como substitutos parciais dos pais me deixam preocupado com as próximas gerações.
“Pais, tenham cuidado, pois essa tecnologia é anunciada. Existem alguns aspectos da criação de bebês e crianças pequenas – carinho, brincadeiras e interações face a face – que não podem ser terceirizados”.
Ainda há muito a aprender sobre o desenvolvimento fundamental do cérebro, de acordo com um artigo recente do Wall Street Journal da Dra. Dana Suskind, fundadora e codiretora do TMW Center for Early Learning + Public Health e diretora fundadora do Programa de Implante Coclear Pediátrico da a Universidade de Chicago.
Ela escreveu em “The AI Nanny in Your Baby’s Future”:
“O que os bebês mais precisam para otimizar esse período inicial de rápido avanço é uma conversa rica, o que os psicólogos do desenvolvimento chamam de interações de ‘servir e retribuir’. Isso é natural para os pais que interagem com seus filhos e é conhecido por estimular o crescimento das crianças em habilidades cognitivas e emocionais. …
“Introduzir cérebros jovens à IA responsiva pode alterá-los de maneiras fundamentais que não podemos prever. Se fornecermos o tipo errado de entrada ou interação, podemos distorcer o desenvolvimento cognitivo de maneiras de longo alcance”.
O educador Jonathan Sim está preocupado com a influência da IA e da mídia social no desenvolvimento social e na capacidade de colaboração das crianças. Em uma coluna para o Channel News Asia, Sim escreveu:
“Tenho observado alunos lutando com projetos em grupo, pois não conseguiam entender como alguém poderia trabalhar de forma tão diferente deles – uma falsa percepção reforçada por suas experiências de mídia social, onde eles interagiram com pessoas semelhantes dentro de sua bolha. …
“Vendo como essas bolhas personalizadas estão fazendo nossos jovens lutarem para entender e trabalhar com os outros, minha preocupação é que esse problema piore com crianças criadas por IA.
“Se não tomarmos cuidado, corremos o risco de criar uma geração de crianças com percepções severamente distorcidas do mundo devido à bolha personalizada que a IA cria ao seu redor.”
Preocupações com a privacidade da tecnologia de IA centrada na criança
Um produto AI, Storytimes, usa um programa que escreve crianças em uma história e gera ilustrações com base nas fotos que o usuário carrega. O site do Storytimes afirma: “Com inteligência artificial, podemos recriar ilustrações realistas de seu filho em vários cenários e aventuras”.
Embora o site do produto ofereça informações sobre recursos criativos, ele não aborda como as imagens infantis serão usadas ou se salvaguardas serão incluídas para proteger as imagens infantis.
As empresas de monitores de bebês oferecem tecnologia de IA que registra rostos, sons e movimentos de bebês o tempo todo. De acordo com o The Washington Post, os críticos temem que os dispositivos venham com profundas compensações de privacidade e lares abertos para ataques cibernéticos.
O advogado Greg Glaser disse ao The Defender: “Me surpreende que legisladores e reguladores não vejam dois passos à frente aqui para proteger proativamente as crianças da IA”.
Preocupações de privacidade semelhantes se aplicam a qualquer um dos jogos, vídeos e plataformas de mídia social com os quais as crianças interagem.
A Comissão Federal de Comércio está considerando uma proposta para permitir que as empresas usem a “tecnologia de estimativa de idade” de varredura biométrica facial com IA para obter permissão dos pais para crianças menores de 13 anos usarem serviços de jogos online. Mas as garantias de privacidade propostas pela indústria não são críticas convincentes.
Promessas "vagas e inexequíveis"
Em junho, os legisladores da União Europeia assinaram um projeto de lei para o uso de IA, incluindo a proibição do uso da tecnologia em vigilância biométrica e certas cláusulas para proteger as crianças.
Esta é a primeira lei sobre IA de um grande regulador e pode servir de modelo para outras jurisdições que planejam regulamentações semelhantes.
O projeto de orientação política do UNICEF promove os direitos das crianças e aumenta a conscientização sobre como os sistemas de IA podem defender ou minar esses direitos. A orientação foi desenvolvida após um extenso processo de consulta com especialistas de todo o mundo e quase 250 crianças em cinco países.
Steven Vosloo, especialista em dados, pesquisas e políticas do UNICEF, disse:
“A IA pode estar usando processamento de linguagem natural para entender palavras e instruções e, portanto, está coletando muitos dados dessa criança, incluindo conversas íntimas, e esses dados estão sendo armazenados na nuvem, geralmente em servidores comerciais. Portanto, há preocupações com a privacidade. …
“Cerca de um terço de todos os usuários online são crianças. Muitas vezes descobrimos que as crianças mais novas estão usando plataformas de mídia social ou plataformas de compartilhamento de vídeo que não foram projetadas para elas.
“Eles geralmente são projetados para o envolvimento máximo e são construídos em um certo nível de criação de perfis com base em conjuntos de dados que podem não representar crianças”.
De acordo com a Nature, “os Estados Unidos não têm leis federais amplas relacionadas à IA – nem regras significativas de proteção de dados”. Audiências do Congresso e reuniões presidenciais relacionadas à regulamentação da IA renderam promessas “vagas e inexequíveis”, informou a Nature.
As leis relacionadas à IA entrarão em vigor em seis estados este ano. A maioria deles faz parte de leis abrangentes de privacidade do consumidor, regulando a IA e a tomada de decisão automatizada, permitindo que os usuários optem por não criar perfis e exigindo avaliações de impacto.
Os dois projetos de lei em Minnesota propondo a proibição de algoritmos de mídia social direcionados a crianças falharam. Dois foram considerados na Califórnia no ano passado: AB 2273, “A Lei do Código de Design Adequado à Idade da Califórnia” foi aprovada e sancionada, e a AB 2408, “Lei do Dever para as Crianças da Plataforma de Mídia Social”, foi “silenciosamente eliminada” pela Senado da Califórnia.
Nesta sessão legislativa, 12 estados aprovaram leis de IA. O RB 1103 de Connecticut é o único que aborda a proteção infantil – e mesmo assim, menciona apenas brevemente questões de privacidade, não as possíveis consequências neurológicas e sociais de expor crianças à IA.
Vários estados propuseram projetos de lei para aumentar a transparência e a compreensão dos efeitos da IA. Apenas dois projetos de lei se concentram em crianças: o AB 1282 da Califórnia e o HM 75/SM 63 do Novo México estabeleceriam comissões para relatar os riscos à saúde mental associados ao uso infantil de mídias sociais e IA.
***
Monica Dutcher é uma repórter sênior do The Defender que mora em Maryland.
John-Michael Dumais é editor de notícias do The Defender. Ele tem sido um escritor e organizador comunitário em uma variedade de questões, incluindo pena de morte, guerra, liberdade de saúde e todas as coisas relacionadas à pandemia do COVID-19.