Imagine o seguinte: corre o ano 2030 e está a preparar uma apresentação para a sua empresa sobre bullying infantil. Pede, então, ao ChatGPT (que tem por base Inteligência Artificial Generativa) para criar uma imagem de um grupo de crianças a perpetrar bullying contra outro menor. O chatbot pensa um pouco e gera o conteúdo solicitado, devolvendo imagens em que surgem elementos da sua família e não crianças aleatórias.
Agora imagine outra situação: que o mesmo pedido foi feito por um desconhecido que vive do outro lado do mundo e, de repente, o resultado do ChatGPT integra imagens da sua família recriada num cenário virtual, sem o seu controlo ou autorização. Como se sentiria ter os seus nas mãos de outros?
Este exercício serve para refletir sobre uma realidade. Desde o dia 25 de março que as redes sociais foram inundadas de fotografias pessoais (e não só) com um filtro inspirado na estética do Studio Ghibli. Trata-se do premiado estúdio japonês de animação, fundado em 1985 e (re)conhecido mundialmente por praticar técnicas tradicionais (desenhos detalhados e feitos à mão), dando origem a filmes famosos como “My Neighbor Totoro” e “Spirited Away”.
Image Generation: a nova ‘fábrica’ de imagens do ChatGPT
Este filtro é uma das inúmeras opções do recém-lançado Image Generation, uma nova ferramenta do ChatGPT-4o que, além de gerar imagens mais realistas e próximas dos estilos desejados, melhora também a sua capacidade de criar texto e símbolos nas próprias imagens (letras de logos, títulos, legendas…), algo que anteriormente, pela falta de qualidade, era um sinal óbvio de que a imagem tinha sido criada por Inteligência Artificial (IA).
Sobre as ‘fotografias Ghibli’, percebe-se que se tenham tornado numa trend e viralizado, pois possuem um traço de nostalgia muito característico deste estúdio. E este é talvez o grande motivo pelo qual a IA é tão sedutora — conseguimos projetar os nossos sonhos em algo real de forma fácil e rápida.
Porém, do que nunca ninguém se lembra quando está a criar conteúdos através de IA no ChatGPT é dos termos & condições que aceitou nas versões gratuitas (nas pagas é diferente) quando começou a recorrer a esta poderosa tecnologia. Estas normas referem o seguinte: “Podemos usar o seu conteúdo em todo o mundo para fornecer, manter, desenvolver e melhorar os nossos serviços.”
Ora, enquanto as redes sociais são inundadas de fotografias pessoais ‘à la Studio Ghibli’, os servidores da OpenAI (dona do ChatGPT) também são inundados de fotos pessoais. E estas vão fazer parte para sempre dos dados de treino (incluem também textos, sons, gráficos), considerados ‘o sangue’ dos modelos de Inteligência Artificial (como o ChatGPT), pois aprendem com este ‘material de arquivo’ para, a partir daí, criarem algo novo.
Na prática, estas fotografias pessoais ao estilo Ghibli (e todas as que sejam inseridas no Image Generation) vão ficar armazenadas, podendo ser apresentadas, de forma total ou parcial, como resposta a qualquer utilizador que solicite uma imagem sobre um determinado tema. E é precisamente aqui que voltamos à situação imaginada no início: e se a foto inocente de hoje dos seus filhos com o filtro Ghibli for aplicada à tal imagem de bullying de 2030?
“Uma vez na net, para sempre na net”
Na era digital já se falou muito dos perigos das redes sociais, alertando-se para o facto de “o que está na internet, lá ficará para sempre”. No caso do ChatGPT, que é um modelo de IA Generativa que está disponível online, o comum user não imagina que as suas conversas, fotos ou ficheiros também vão ali ficar para sempre.
Acredito que a Inteligência Artificial tem a capacidade de mudar o mundo, trazendo inúmeras oportunidades para todos, sendo hoje uma fonte de vantagem competitiva e, no futuro, algo tão basilar como a internet. No entanto é essencial que esta adoção seja acompanhada de uma consciencialização em relação à privacidade das pessoas e à segurança dos dados.
Fenómenos como fotos recriadas com o traço do Studio Ghibli representam um risco não só para cada um de nós — de modo individual e em família —, mas também para as empresas, pois os colaboradores podem, involuntariamente, expor informações sensíveis.
Mas, quer isto dizer que não devemos recorrer ao ChatGPT e a qualquer tecnologia que use IA? Claro que não, pois esta é uma realidade que veio para ficar. A sociedade precisa é de saber o que significa uma utilização responsável destes recursos. Para tal, é necessário educar e criar ambientes protegidos em que todos possam experimentar, aprender e aplicar a IA de forma segura.
Uso de ChatGPT e de IA ‘à prova de bala’
O ChatGPT é o rosto da Inteligência Artificial Generativa (que gera conteúdos como se fosse um humano), mas esta tecnologia aplica-se a mais modelos — como o Deepseek, Gemini (da Google) e LlaMa (da Meta) — e tecnologias (como os assistentes virtuais). Por isso, é importante estarmos todos à altura de fazer o uso mais consciente e benéfico da IA.
A nível de negócio, é imprescindível planear formações para os colaboradores, promover fóruns de discussão internos, definir que tipo de conteúdos não se devem partilhar com o ChatGPT (ou outros modelos), ter um especialista em IA disponível para prestar informações e criar condições para que se possa usar a tecnologia de forma segura.
No que diz respeito a pessoas, antes de se inserir alguma informação ou documento no ChatGPT (ou noutros modelos), pensar: “Eu partilharia isto em voz alta num local público?” Se algo não tem lugar na esfera pública, também não deve ser abordado no Chatbot sem as devidas precauções.
Já no que diz respeito a órgãos públicos, é fundamental preparar a população para um mundo digital menos privado. A sensibilização para estes temas — através de formações, debates, folhetos, entre outras ações — deve ser assertiva, transformando o medo em vontade de aprender e de dominar as novas tecnologias.
A adoção de Inteligência Artificial Generativa — quer através do ChatGPT quer noutras situações — é inevitável e, como tal, é basilar Portugal estar ‘em plena forma’ para enfrentar os desafios que se fazem sentir e os vindouros. Vamos ter mais cuidado para não hipotecar o nosso futuro por um desenho?
Roberto Oliveira,
Head of Growth da LTPlabs