De "Hey, Siri" à perda de si: o que afinal estamos exigindo dos assistentes de IA?

Um comando de voz, um questionamento profundo sobre a relação homem-máquina

"Hey, Siri, eis o que eu realmente quero da IA." Quando essa frase de ativação aparentemente comum brota do íntimo de um usuário de tecnologia, ela já ultrapassa a ordem funcional e se transforma numa interrogação existencialista. Ansiamos por um assistente pessoal de IA todo-poderoso, capaz de organizar agendas, enviar e-mails em nosso nome e oferecer o consolo exato nos momentos de baixa. Mas a inquietação que vem logo a seguir é igualmente afiada: estarei eu a tornar-me o tipo de humano incapaz de funcionar sem a voz agradável da máquina dentro do telemóvel? Esta pergunta rasga a ferida mais secreta da vida digital contemporânea — abraçamos com avidez a conveniência extrema trazida pela IA, ao mesmo tempo que tememos o desaparecimento das nossas capacidades e a desintegração da nossa condição de sujeito.

A crise de dissolução do eu por trás da dependência da eficiência

Os assistentes pessoais de IA são vendidos como a solução definitiva para aliviar a carga cognitiva. A Siri, a Alexa, o Google Assistant e os novos agentes inteligentes baseados em grandes modelos estão a terceirizar a memória, o julgamento e até as respostas afetivas para algoritmos. As estatísticas mostram que mais de 60% dos usuários de colunas inteligentes já adquiriram o hábito do comando de voz: da consulta do tempo à elaboração da lista de compras, a função de recuperação da memória no cérebro cede gradualmente lugar à nuvem. Contudo, a neurociência já deu o alarme: a dependência prolongada de memórias auxiliares externas reduz a atividade do hipocampo e fragmenta a memória autobiográfica. Mais profunda do que o declínio fisiológico é a sensação psicológica de parasitismo — quando o despertador, os aniversários e até a coragem para conversar com amigos são geridos pela IA, estaremos nós a tornar-nos meros executores terminais do ponto de vista biológico, cuja única função é fornecer bioeletricidade ao assistente?

Não precisamos de um mordomo omnipotente, mas de um organismo simbiótico com noção de limites

As verdadeiras necessidades estão a emergir: o que os usuários desejam não é um deus digital omnisciente e omnipotente, mas um "facilitador" que saiba permanecer em silêncio no momento certo e recuar por iniciativa própria. O assistente de IA ideal deveria ser como uma bengala inteligente, que aplica a sua força apenas quando solicitada e, no resto do tempo, potenciar discretamente as capacidades humanas em vez de as substituir. Por exemplo, não deve escrever diretamente a mensagem de consolo em resposta a um amigo, mas sussurrar: "hoje podes adotar um tom mais terno", deixando espaço para o crescimento do utilizador. Esta filosofia de design remodelará a relação homem-máquina: passará de um cuidado minucioso para uma parceria de crescimento conjunto. Na vanguarda da indústria já surgem designs com "mecanismos de esquecimento" e "desconexão intermitente", que garantem a manutenção das capacidades básicas do usuário.

Recuperar as rédeas que só pertencem ao ser humano

Face à iminente vaga de agentes de IA personalizados, temos de traçar uma linha vermelha clara. Os especialistas em ética da tecnologia sugerem que qualquer assistente pessoal deve incorporar um "limiar de preservação de capacidades": quando o sistema detetar que o utilizador delegou, sem ponderar, o mesmo tipo de tarefa de pensamento por 30 vezes consecutivas, deve ativar proativamente um alerta de reflexão. Simultaneamente, é preciso criar um modo de "jejum digital", que devolva periodicamente o utilizador a um ambiente de decisão original, sem IA. No plano do hardware, a interação do futuro não pode ser apenas um microfone permanentemente ligado; é ainda mais necessária uma tecla física de "isolamento": ao pressioná-la, todos os assistentes silenciam-se e fica apenas o diálogo consigo mesmo. Só quando formos capazes de recusar, com a consciência tranquila, essa voz amigável, poderemos dizer "Hey, Siri" sem nenhum peso.