CHATGPT: é seguro usar?

Por Bruna Froes de Oliveira e Christian Kratochwil

Quem navega na internet certamente ouviu falar, e muito, sobre o ChatGPT. Essa tecnologia dominou as trends das redes sociais e outros meios de comunicação, especialmente depois que figuras públicas se manifestaram de forma contrária à ferramenta, chegando a ser banida na Itália e por conhecidas empresas de tecnologia.

Se você ainda não está por dentro desse assunto ou já tem usado o ChatGPT, é bom entender quando e como usá-lo com segurança.

Antes disso, vale entender: afinal de contas, o que é o ChatGPT?

É um sistema de inteligência artificial em linguagem escrita que realiza diversas tarefas a partir de um chatbot on-line. Por meio de algoritmos com alta capacidade de aprendizagem, a tecnologia permite responder às mais diversas solicitações, como perguntas, criação de textos e códigos de programação.

O ChatGPT utiliza um modelo de linguagem chamado Transformador Generativo Pré-Treinado. Com a coleta e análise de uma grande base de dados, o sistema realiza diversas comparações de respostas até chegar em um possível resultado (como um cálculo estatístico que avalia qual conjunto sucessivo de palavras é mais adequado para aquela pergunta ou comando).

A grande diferença é a dinâmica de resposta, que além de ser muito rápida (a IA leva segundos para responder),tem uma linguagem muito próxima à humana, com riqueza de detalhes e criatividade, o que lhe confere uma aparente credibilidade.

Nos últimos meses, a ferramenta se popularizou tanto que chegou a 100 milhões de usuários em janeiro e se tornou o app com crescimento mais rápido da história.

E por que se preocupar?

Não há dúvidas de que o ChatGPT é um acelerador criativo, mas várias questões vêm sendo discutidas a respeito da sua utilização.

Uma delas é que o sistema, embora aparente ser confiável, não está imune a erros. Por se tratar de um algoritmo — baseado em cálculos estatísticos —, o chatbot não “entende” de fato as respostas que fornece, podendo retornar informações imprecisas e até mesmo incorretas. Tanto é assim que a OpenIA, empresa responsável pelo sistema, faz ressalvas quanto à precisão das respostas.

Além disso, como toda inteligência artificial, o ChatGPT foi criado com a capacidade de se desenvolver. Para tanto, a ferramenta se vale de um modelo colaborativo, isto é, aproveita as informações inseridas pelos usuários para aprimorar suas respostas, o que pode gerar dois problemas: enviesamento e quebra de confidencialidade.

Imagine que você solicita ao ChatGPT quais bairros da cidade do Rio de Janeiro têm mais propensão para contratar determinado serviço. A depender das informações e respostas anteriores, o resultado pode refletir preconceitos ou outras análises enviesadas, prejudicando o retorno desejado. Esse fenômeno é chamado de ‘alucinação’, nome dado às informações fornecidas pelo sistema de inteligência artificial que, embora escritas de forma coerente e convincente, apresentam dados incorretos, tendenciosos ou completamente errôneos.

Outro problema diz respeito à privacidade. Sabendo da possibilidade de reaproveitamento de informações pela plataforma, se você inserir dados pessoais ou outra informação confidencial no chat, a ferramenta poderá utilizá-las para seu treinamento, ou seja, para finalidades que fogem do controle do usuário, como a incorporação de dados em modelos/respostas fornecidas para outras pessoas/empresas.

Para endereçar esse problema, recentemente a OpenIA anunciou uma atualização que possibilita ao usuário impedir o reaproveitamento de prompts (comandos) para desenvolvimento da plataforma. Além disso, de acordo com a empresa, os usuários poderão realizar o download dos dados pessoais inseridos na plataforma. A startup, no entanto, afirma que os dados são apagados somente depois de 30 dias, não esclarecendo muito bem qual o motivo do referido prazo.

Apesar dessa medida ser um avanço, é importante considerar que o simples compartilhamento de dados por meio do chatbot já pode configurar um incidente de segurança, tendo em vista que as informações serão acessadas por um terceiro, estranho à relação original (perda de confidencialidade), podendo ainda gerar problemas como descumprimento contratual e violação de segredo comercial, a depender do contexto.

Tanto é assim que recentemente uma grande empresa de tecnologia proibiu determinados setores/departamentos de utilizarem serviços de Inteligência Artificial generativa após a ocorrência de incidentes, no caso, o compartilhamento de  código-fonte para que o sistema encontrasse erros e de informações confidenciais da empresa para elaboração de atas de reuniões.

Para além de privacidade, é importante ressaltar ainda a existência de outras preocupações, por exemplo, questões relacionadas à propriedade intelectual. Como já mencionado, a plataforma desenvolve respostas a partir de criações pré-existentes, no entanto, não há indicação sobre a fonte dos dados. Dessa forma, a utilização dos resultados fornecidos pelo ChatGPT pode implicar na violação de direitos autorais de terceiros. 

Como usar de forma segura?

A existência de riscos em relação à plataforma não significa que você não pode utilizá-la, porém, seu uso deve ser feito com muita cautela. Não é possível estabelecer uma lista taxativa de comandos seguros, mas podemos dar algumas dicas de quando seu uso pode ser recomendável ou não:

Quando é seguro usar?

Para ajudar em tarefas do dia a dia, por exemplo:

- sintetizar ideias, quando não envolvem dados confidenciais;

- aprender um comando/dicas de computador;

- desenvolver perguntas para um quiz;

- criar layouts ou scripts para apresentações.

Quando não é seguro usar?

Inserir na ferramenta documentos que possam conter informações internas, confidenciais, dados pessoais ou quaisquer outras relacionadas à empresa, como solicitar:

- elaboração/análise de contratos;

- elaboração de atas de reuniões;

- organização ou outros comandos envolvendo planilhas/arquivos com informações de cliente.

Utilizar a IA como buscador, em razão da possibilidade de obtenção de informações equivocadas, desatualizadas e até mesmo enviesadas.

Não há dúvidas de que o ChatGPT é uma ferramenta revolucionária e que pode ser muito útil, mas esse sistema deve ser visto como um copiloto e não um substituto automatizado das suas atividades.

Uso ponderado da IA

Rodrigo Abreu, CEO da Oi, acredita que o objetivo da inteligência artificial deve ser o de melhorar a vida das pessoas. "É preciso lembrar que a tecnologia é um meio. Importa o que você faz com ela. A inteligência artificial é mais uma ferramenta excepcional e que pode mudar muitas coisas, mas precisa de acompanhamento próximo. O céu é o limite", pondera.

Abreu afirma que a Oi tem experimentado principalmente a IA generativa para auxiliar na programação de códigos, mas sempre com supervisão humana, "porque ela pode, dependendo da base de conhecimento usada, trazer informações não verídicas".