65% das crianças e adolescentes brasileiros usam IA na escola sem auditoria ou plano de instrução.

Olá! Seja bem-vindo a mais uma edição da nossa Newsletter.

Aqui é o Evandro Fernandes, da Digienge.

Nesta edição, trago uma notícia que repercutiu no Brasil hoje e é importante para entendermos qual é o futuro da IA.

65% das crianças e adolescentes brasileiros usam IA na escola sem auditoria ou plano de instrução.

← Início IA

Uma pesquisa recente do Comitê Gestor da Internet (CGI.br) revelou um número chocante:

Quase dois terços dos jovens brasileiros entre 9 e 17 anos já usam ferramentas de IA generativa.

E eles não usam apenas para brincar.

A IA se tornou:

Consultora Escolar: 59% usam para pesquisas escolares.

Criadora de Conteúdo: 21% usam para criar textos e imagens.

Apoio Emocional: 10% usam para desabafos sobre questões pessoais e emocionais.

A IA se transformou em uma figura de autoridade na vida dessa nova geração, influenciando o que eles aprendem, o que eles criam e até como eles se sentem.

Aí é onde está o perigo.

Por que isso importa?

← Início humano

Diferentemente do plano Chinês, em que a IA está sendo integrada no ensino básico como uma ferramenta de ensino, direcionada pelo professor…

Aqui no Brasil as crianças estão usando IA sem um plano de instrução ou sem orientação.

Elas estão sendo treinadas para não ter critério.

Eles aceitam tudo o que a IA entrega porque ela se apresenta com autoridade.

Por isso comentei no último Papo de CEO que a nova geração vai precisar muito dos mais velhos para criar um filtro entre o que a IA entrega e o que é a realidade.

Todo modelo de IA possui um percentual de erro, alucinação e falha.

Ao usar a IA sem filtro, estamos ensinando uma geração a não questionar se a fonte ou a informação é real ou moralmente correta.

Não ponderar a consequência ética do conteúdo gerado.

Da mesma forma…

O que vai determinar o sucesso de uma implementação de IA na sua empresa é a maturidade corporativa, conhecimento e sua proteção contra risco reputacional, uma blindagem que poucas empresas estão pensando ou sequer se preocupando.

Da mesma forma que existem regras para os funcionários humanos, é preciso ter regras para os não-humanos (IAs), que precisam ser auditados para verificar dados e a moralidade da abordagem, para conferir a qualidade das respostas.