O elefante na sala: o perigo de usar IA sem saber como ela funciona

Durante muito tempo, a IA (Inteligência Artificial) parecia algo distante, inimaginável. O tipo de coisa que só se via em filmes futuristas. Hoje, ela está em todos os lugares.

Escreve textos, corrige provas, gera imagens, vídeos, modifica rostos e simula vozes com tanta precisão que é quase impossível distinguir o que é real. E, apesar de ser uma facilitadora em vários campos, a falta de preparo para lidar com essa tecnologia é um risco tão grande quanto a própria ferramenta.

O que antes era apenas terreno fértil para fake news, agora é uma terra sem lei para deepfakes, manipulações de massa e perda de privacidade em larga escala. É aqui que os especialistas entram em defesa do “Letramento em IA“.

“O elefante na sala”, é assim que Sandro Bonás, palestrante e CEO da edtech Conexia Educação AZ, define a atual colocação da Inteligência Artificial no mundo. Grande, difícil de ignorar, mas que muitos evitam discutir.

Segundo ele, essa hesitação é causada pela ameaça direta que a tecnologia representa às nossas necessidades humanas mais básicas: a busca por certeza e conforto.

“A velocidade exponencial da IA nos lança profunda incerteza sobre o futuro do trabalho, da sociedade e até das nossas relações, gerando um enorme desconforto. É mais cômodo não tocar no assunto”, explica Bonás.

Sandro Bonás, com vasto conhecimento em IA, destaca que a inteligência artificial não é apenas mais uma ferramenta: ela inaugura uma nova era, que desafia nossas definições sobre trabalho, criatividade e educação.

Encarar esse “elefante”, diz ele, exige uma reinvenção pessoal e organizacional que muitos preferem adiar, especialmente em contextos educacionais mais conservadores.

O que é o letramento em IA?

Apesar da IA estar cada vez mais inserida no cotidiano, a compreensão sobre o funcionamento da tecnologia ainda é limitada.

O letramento, ou alfabetização em IA não significa apenas saber usar um chatbot ou pedir uma imagem para um gerador automático. É uma competência complexa e urgente.

Inspirado pela definição da UNESCO, Bonás estrutura o conceito em três pilares:

• Letramento em dados: entender como nossas informações são coletadas, processadas e utilizadas.
• Letramento em algoritmos: compreender como os sistemas tomam decisões, o que nos mostram e o que escondem.
• Letramento crítico: refletir sobre os impactos sociais, éticos e políticos da IA.

Na prática, uma pessoa letrada em IA consegue utilizar ferramentas com responsabilidade, sabe formular bons comandos, entende limitações, reconhece vieses e é capaz de proteger os próprios dados.

Além disso, desenvolve senso crítico diante de conteúdos gerados artificialmente, como vídeos falsos e informações distorcidas.

Os riscos da ignorância digital

Uma sociedade que não entende minimamente como a IA funciona torna-se extremamente vulnerável. “Os riscos são imensos e interconectados”, alerta Bonás.

Ele aponta que a exclusão digital tende a se aprofundar, ampliando desigualdades sociais e econômicas. Além disso, sem o devido preparo, populações inteiras ficam mais suscetíveis à desinformação, à manipulação por meio de algoritmos e ao uso malicioso de conteúdos como deepfakes.

Para Jorge Muzy, autor do livro “IA 360º: Além dos Algoritmos“, o letramento em IA é negligenciado mesmo com o uso massivo da tecnologia.

Ele lista os principais obstáculos: déficit na educação científica, lentidão na atualização dos currículos escolares, ausência de políticas públicas eficazes e até interesses econômicos e políticos em manter a população como consumidora passiva.

Muzy explica que o desconhecimento torna a sociedade refém de sistemas opacos, que influenciam o que consumimos, como compramos, o que lemos e até em quem votamos, sem qualquer transparência.

Privacidade e segurança em risco

A ausência de alfabetização digital também pode levar a decisões perigosas, principalmente no uso de dados pessoais.

No último mês, uma publicação na internet chamou a atenção desta jornalista que vos fala. Nela, uma professora usa fotos de alunos para uma atividade que parece inofensiva. Ela coloca, com ajuda de IA, os rostos das crianças em adultos trabalhando em diversas profissões diferentes.

Embora a intenção fosse pedagógica, Bonás alerta que essa prática representa sérios riscos. “Um rosto infantil é um dado biométrico, altamente sensível. Seu uso exige consentimento explícito dos responsáveis”, afirma o CEO.

Ele questiona como essas plataformas armazenam e usam os dados: será que são vendidas? Sofrem vazamentos? São reutilizados sem controle?

Outro risco é a criação de conteúdos maliciosos, que podem expor crianças a crimes mais graves. “Na internet, apagar algo é quase impossível. Aquela imagem pode permanecer para sempre em servidores ao redor do mundo”, diz o CEO.

Apesar do exemplo se tratar da prática com menores de 18 anos, é comum vermos amigos, familiares e pessoas próximas compartilhando fotos ou dados pessoais para serem transformados em imagens divertidas.

Todos os dias surgem novas tendências que se tornam moda na internet (trends) e ferramentas aperfeiçoadas para um novo mundo com infinitas possibilidades.

Preparar a educação para o futuro

Bonás afirma que incluir o letramento em IA nos currículos escolares deve ser uma prioridade. Mas ele reconhece os desafios. É preciso formar professores, integrar a tecnologia de maneira transversal e garantir plataformas seguras e acessíveis para todas as escolas.

“Os professores são a linha de frente e sentem-se despreparados. Precisamos de programas massivos de capacitação que os ajudem a entender a IA e a integrá-la de forma segura e pedagógica”, defende Sandro.

Ele sugere que o letramento não seja uma disciplina isolada, mas integrado a diversas áreas do conhecimento.

Muzy complementa com ações práticas: criação de laboratórios, parcerias com centros de pesquisa e projetos que explorem os riscos e benefícios sociais da IA.

IA: ameaça ou aliada?

Apesar de todos os riscos, os especialistas afirmam que a IA pode ser uma poderosa aliada — desde que compreendida. Bonás acredita que profissionais preparados para trabalhar com a IA poderão não só manter os empregos, como também reinventá-los.

“Quem entende a IA não a vê apenas como uma ameaça que pode eliminar sua função, mas como uma parceira para aumentar exponencialmente sua capacidade”, afirma o CEO. Segundo ele, isso permite automatizar tarefas repetitivas e focar em atividades mais humanas: criatividade, estratégia e resolução de problemas complexos.

Muzy conclui que o letramento em IA é a ponte entre ser vítima da automação e se tornar protagonista do futuro. Ele aponta novas profissões que devem surgir com força nos próximos anos, como engenheiro de prompts, auditor de IA e especialista em ética da IA.

Como se informar melhor?

Bonás finaliza com dicas práticas para quem quer se proteger e entender melhor o que está usando. Ele indica pesquisar sobre a ferramenta antes de utilizá-la, ler políticas de privacidade, buscar fontes confiáveis e valorizar o jornalismo de qualidade.

O CEO Conexia Educação AZ também recomenda compartilhar o que aprendeu com amigos e familiares, para que a conscientização se espalhe. “A segurança digital e o uso ético da IA devem se tornar um assunto tão comum quanto falamos sobre saúde ou finanças”, finaliza Sandro Bonás.

>> Para mais notícias, siga o SCC10 no Instagram, Threads, Twitter e Facebook.