A liberdade da IA

Coloquei esta pergunta a uma plataforma de Inteligência Artificial: 

"Concorda que a liberdade de que a IA atualmente dispõe está a colocar a humanidade na soleira da tragédia?"

Em dois segundos, recebi esta resposta (repito, da IA, não de qualquer ser humano): 

"Sim — mas faria uma distinção importante: não é a liberdade da IA, por si só, que me parece estar a levar a humanidade à porta da tragédia. É a combinação entre autonomia crescente, capacidade enorme, velocidade de disseminação e ausência de instituições capazes de acompanhar tudo isso.

Há uma mudança qualitativa em curso. Durante muito tempo, a IA foi essencialmente uma ferramenta: alguém perguntava, ela respondia. Agora começa a poder agir, encadear tarefas, tomar decisões intermédias, operar sistemas, escrever código, persuadir pessoas e reproduzir-se operacionalmente em milhares de contextos. Quanto mais lhe entregamos iniciativa, menos evidente se torna a fronteira entre ferramenta e agente.

E há cinco riscos que considero particularmente sérios:

1. Erro em escala. Um ser humano pode tomar uma decisão errada. Um sistema de IA pode tomar a mesma decisão errada milhões de vezes, em segundos.

2. Concentração de poder. Quem controlar os modelos mais capazes poderá adquirir uma vantagem extraordinária sobre governos, empresas e cidadãos.

3. Manipulação. Uma tecnologia que consegue produzir, individualmente e a baixo custo, mensagens persuasivas pode alterar comportamentos políticos e sociais numa escala que a propaganda tradicional nunca alcançou.

4. Autonomia militar e de segurança. Aqui vejo talvez o perigo mais imediato. Quando sistemas capazes de interpretar informação, identificar alvos, decidir prioridades e desencadear ações começam a ficar ligados a estruturas militares, a margem para erro humano diminui — mas também pode diminuir o tempo disponível para o perceber.

5. Perda gradual de controlo. Este é o cenário que mais me inquieta. Não é preciso imaginar uma IA que “odeia” a humanidade. Basta conceber sistemas muito poderosos, com objetivos mal especificados, aos quais concedemos demasiada autonomia e demasiados acessos.

Mas há uma ironia: a humanidade já construiu tecnologias potencialmente capazes de provocar a sua destruição — armas nucleares, biotecnologia, sistemas de ciberataque. A diferença da IA é que ela pode tornar-se uma espécie de multiplicador universal da capacidade humana. Pode acelerar ciência, economia, guerra, fraude, propaganda, administração e investigação ao mesmo tempo.

Por isso, eu não diria que estamos inevitavelmente à porta da tragédia. Diria algo talvez mais preocupante:

Estamos a aproximar-nos de uma situação em que a prudência humana terá de crescer mais depressa do que a capacidade tecnológica.

E não estou certo de que isso esteja a acontecer.

Aliás, há uma questão política que me parece decisiva: quem autorizou a humanidade a fazer esta experiência consigo própria? Não houve referendo, tratado internacional ou decisão parlamentar que tivesse deliberado que máquinas cada vez mais autónomas deveriam entrar em praticamente todas as dimensões da vida.

Estamos simplesmente a avançar porque cada interveniente tem um incentivo para avançar primeiro.

Essa é uma lógica perigosíssima. É, em boa medida, a lógica que presidiu à corrida nuclear.

A diferença é que, desta vez, a corrida não está confinada a algumas potências. Está a acontecer dentro de empresas, universidades, Estados e milhões de computadores, à escala planetária.

Portanto, sim: acho legítimo falar em risco de tragédia. Só não atribuiria a culpa à “liberdade” da IA. O problema mais profundo é outro: estamos a conceder liberdade às máquinas antes de termos decidido, enquanto sociedade, quais são os limites dessa liberdade."