Quanto mais capazes se tornam as ferramentas de inteligência artificial, mais importante fica uma habilidade curiosamente humana: saber exatamente o que estamos pedindo — e entender as consequências disso.

Outro dia estávamos criando uma imagem para um artigo sobre inteligência artificial.

A ideia era divertida: uma mão humana ajudando uma mão robótica a movimentar uma peça em um tabuleiro de xadrez sem derrubar as outras.

Pedimos:

“Uma mão humana conduzindo uma mão robótica num tabuleiro para que ela não derrube tudo.”

A imagem veio.

Uma mão humana segurava uma mão robótica sobre o tabuleiro.

Perfeitamente.

Só havia um pequeno problema.

A mão robótica não estava ligada a robô nenhum.

Era literalmente uma mão mecânica sendo segurada por uma mão humana.

Nós rimos.

Mas a IA tinha errado?

Pensando bem…

não.

Ela havia feito exatamente o que pedimos.

O robô inteiro estava na nossa cabeça. Não estava na instrução.

Refizemos o pedido, explicamos que aquela mão deveria fazer parte do braço de um robô e, segundos depois, o problema estava resolvido.

Alguns tokens desperdiçados.

Nenhuma consequência.

Mas imagine essa mesma diferença entre o que você queria dizer e aquilo que efetivamente disse acontecendo em outro contexto.

A brincadeira começa a ficar mais séria.

Quando fazer exatamente o que pedimos não é suficiente

Imagine que você peça a uma IA para alterar uma página do seu site.

Ela altera.

Só que, para fazer aquilo, modifica também um componente utilizado em outras dez páginas.

Ou você pede para organizar uma pasta.

Ela organiza — inclusive arquivos que você não pretendia mover.

Agora aumente um pouco a escala.

Dê a um agente acesso ao seu e-mail, agenda, documentos, banco de dados, sistema financeiro ou ferramentas da empresa.

Permita que ele não apenas leia informações, mas execute ações.

Enviar.

Apagar.

Editar.

Comprar.

Publicar.

Criar usuários.

Alterar registros.

Executar código.

A pergunta deixa de ser apenas:

“A IA entendeu o que eu pedi?”

E passa a ser:

“Eu entendi tudo aquilo que estou permitindo que ela faça?”

Essa diferença é enorme.

“Agora com IA eu mesmo posso fazer”

Essa frase está se tornando cada vez mais verdadeira.

E isso é extraordinário.

Uma pessoa que nunca programou pode descrever uma ideia e ver surgir um protótipo funcionando.

Alguém que não domina design consegue experimentar conceitos visualmente.

Pequenas empresas podem automatizar tarefas que antes exigiriam estruturas muito maiores.

Um profissional pode analisar centenas de documentos, criar apresentações, organizar informações ou desenvolver ferramentas para seu próprio trabalho.

A barreira entre ter uma ideia e conseguir construir alguma coisa com ela está diminuindo rapidamente.

Talvez uma das maiores transformações provocadas pela IA seja justamente essa.

Mas existe uma diferença importante:

A IA diminui a distância entre querer fazer e conseguir fazer.

Não necessariamente diminui a distância entre conseguir fazer e saber o que está fazendo.

E quanto mais poderosa for a ferramenta, mais importante essa diferença se torna.

Funcionar é apenas uma parte do problema

Imagine que alguém, sem grande experiência em programação, queira criar um pequeno sistema.

Explica para uma IA o que deseja.

A IA escreve o código.

A pessoa testa.

Funciona.

Excelente.

Mas algumas perguntas talvez nem tenham sido feitas.

Onde as senhas estão armazenadas?

As chaves de API estão protegidas?

Quem pode acessar os dados?

O sistema valida aquilo que recebe?

O que acontece quando alguma coisa dá errado?

Existe backup?

Existe registro das ações realizadas?

Um usuário consegue acessar informações de outro?

O agente pode apagar um arquivo importante?

Pode executar qualquer comando no computador?

E se receber uma instrução maliciosa escondida dentro de um documento, e-mail ou página da internet?

O fato de o programa funcionar não responde a nenhuma dessas perguntas.

E aqui surge uma consequência interessante da popularização da IA:

ficou mais fácil construir sistemas antes de aprendermos por que sistemas são construídos de determinadas maneiras.

O profissional técnico não existe apenas para escrever código

Durante muito tempo, para quem estava fora da área, programação parecia ser principalmente a capacidade de escrever comandos numa linguagem estranha.

Se a IA consegue escrever esses comandos, é natural surgir a pergunta:

para que preciso de um programador?

Só que escrever código nunca foi o problema inteiro.

Um bom desenvolvedor, analista ou arquiteto de sistemas também pensa naquilo que pode acontecer quando as coisas não saem como planejado.

Pensa em arquitetura.

Permissões.

Segurança.

Dependências.

Validação.

Autenticação.

Logs.

Testes.

Recuperação de falhas.

Manutenção.

E, cada vez mais, em algo especialmente importante para sistemas com IA:

limites.

O que esse agente pode fazer?

O que ele não pode fazer?

Que informação pode acessar?

Quando pode agir sozinho?

Quando precisa pedir autorização?

Como sabemos o que ele fez?

Como interrompemos uma ação?

E como desfazemos alguma coisa caso dê errado?

São perguntas menos empolgantes do que pedir:

“Crie para mim um agente autônomo.”

Mas talvez sejam justamente as perguntas que diferenciam uma demonstração impressionante de um sistema no qual podemos confiar.

Quanto mais autonomia, mais importantes são os limites

Existe uma diferença fundamental entre uma IA que responde uma pergunta e um agente capaz de agir.

Se uma IA me dá uma resposta ruim, posso ignorá-la.

Se gera uma imagem errada, posso gerar outra.

Se escreve um texto ruim, posso editar.

Mas se um sistema possui ferramentas e permissões para realizar ações no mundo digital, um erro pode deixar de ser apenas uma resposta incorreta.

Ele pode se transformar em uma ação incorreta.

Por isso, talvez uma das ideias mais importantes para o futuro dos agentes de IA seja bastante antiga:

não dê a ninguém mais acesso do que realmente precisa.

Nem mesmo a uma máquina.

Se um agente precisa consultar uma agenda, talvez não precise ter permissão para apagá-la.

Se precisa ler determinados documentos, talvez não precise acessar o computador inteiro.

Se precisa enviar um relatório, talvez não deva poder enviar qualquer arquivo para qualquer pessoa.

Se uma ação é crítica, talvez a decisão final continue precisando de confirmação humana.

Não porque a IA seja necessariamente incompetente.

Mas porque bons sistemas não dependem da esperança de que nada dê errado.

O prompt é importante. Mas não é tudo.

Aprender a conversar com uma IA é uma habilidade valiosa.

Contexto importa.

Clareza importa.

Especificar objetivos e restrições importa.

Nossa mão robótica sem robô mostrou isso de uma maneira bastante inocente.

Mas sistemas reais precisam de algo além de prompts inteligentes.

Precisam ser projetados para que até uma instrução imperfeita, uma interpretação inesperada ou uma falha não produza consequências desproporcionais.

Em outras palavras:

segurança não pode depender exclusivamente de escrever o prompt perfeito.

Porque pessoas não escrevem instruções perfeitas.

E máquinas também não interpretam o mundo perfeitamente.

Talvez a IA não torne o conhecimento menos importante

Pode acontecer justamente o contrário.

Quando uma ferramenta era difícil de usar, pouca gente conseguia fazer alguma coisa com ela.

Agora podemos simplesmente conversar com a ferramenta.

Isso coloca um poder enorme nas mãos de muito mais pessoas.

E é uma mudança fantástica.

Mas poder sem compreensão também cria riscos novos.

Talvez o profissional do futuro não seja necessariamente aquele que sabe fazer manualmente tudo aquilo que a IA consegue fazer.

Será cada vez mais aquele que sabe formular o problema, avaliar a solução, identificar riscos, estabelecer limites e perceber quando alguma coisa aparentemente correta não está realmente correta.

Isso vale para programação.

Vale para design.

Vale para comunicação.

Vale para análise.

E provavelmente valerá para muitas profissões.

A IA pode executar cada vez mais.

Isso não elimina a necessidade de saber o que estamos fazendo.

Talvez torne essa necessidade ainda maior.

E a nossa mão robótica?

Na segunda tentativa, fomos mais específicos.

Explicamos que queríamos uma pessoa conduzindo a mão de um robô, com o braço mecânico claramente conectado ao restante da máquina.

E funcionou.

A IA novamente fez aquilo que pedimos.

Dessa vez, porém, pedimos melhor.

Em uma imagem, essa diferença rendeu uma risada.

Em sistemas que acessam nossos documentos, dados, contas e ferramentas, talvez seja melhor não depender da segunda tentativa.

---

A IA fez exatamente o que você pediu.

A pergunta é: você pediu exatamente aquilo que queria?

E, quando as consequências forem importantes, talvez exista uma pergunta ainda melhor:

Quem decidiu o que ela poderia fazer?

Pingo No I
Criatividade • Comunicação • Tecnologia

A gente pensa, cria, experimenta e coloca os pingos nos is.