08 DE ABRIL DE 2023
FRANCISCO MARSHALL

CHATGPT, A ÉTICA E A CIDADE

O programa de inteligência artificial ChatGPT promete ser uma das mais poderosas revoluções culturais da humanidade, comparável à descoberta de fogo, escrita, cidade, roda, café e piano. É irreversível o desenvolvimento desta ferramenta e serão imensos seus impactos sociais. Estamos na aurora desta revolução e precisamos aprender a nos posicionar diante da máquina, compreender seus poderes e limites, determinar parâmetros e tirar dela o melhor proveito. Recolha o assombro, arquive a nostalgia, não se intimide e vá logo experimentar o brinquedo gratuito. Não é melhor que aprendas a usar a varinha de condão, antes de seres presa dos feitiço da nova era que já começou?

Em 1942, o bioquímico e autor de ficção científica Isaac Asimov (1920-1992) formulou as Três Leis da Robótica, e as publicou no conto Runaround, na revista Astounding Science Fiction. Republicadas no livro Eu, Robô, de 1950, elas declaram a ética dos robôs: 1) Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal. 2) Um robô deve obedecer às ordens dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei. 

3) Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou a Segunda Lei. Ao ser indagado se essas leis se aplicam a ele, ChatGPT responde que não é um robô, com corpo físico, e que não interage com o mundo do mesmo modo que um robô; portanto, diz o programa, as leis não se aplicam a ele. Entretanto, o parceiro diz que foi criado com parâmetros éticos e morais estabelecidos por seus criadores, que incluem não fazer nenhum mal aos seus usuários, respeitar a privacidade e promover a precisão e a clareza em suas respostas. 

Está evidente que essa enciclopédia que escreve precisa ter melhor estabelecidos seus códigos essenciais para o convívio social. É grande a possibilidade de que ChatGPT atue como HAL (metonímia para IBM), o computador animado por Arthur Clarke (1917-2008) e Stanley Kubrick (1928-1999) em 2001, uma Odisseia no Espaço (1968), que traiu a tripulação humana da nave Discovery One. Os sábios da montanha devem se ocupar disso o quanto antes.

Pedi ao ChatGPT que escrevesse um artigo para ZH com os mesmos parâmetros de autoria que sempre sigo, com o tema "a cidade ideal", um tópico do humanismo clássico que envolve democracia e urbanismo. O resultado não foi ruim, mas trouxe consigo citações apócrifas de autores gregos como Heráclito e Píndaro. O físico Fernando Lang da Silveira, estudioso e divulgador da ciência, pôs à prova a engenhoca e a flagrou em vergonhosos erros matemáticos. É possível que o novo oráculo seja um bom espelho do ser humano, em virtudes e cacoetes. Olho nele.

Em seu texto mimético sobre a cidade ideal, o robô incorpóreo pergunta (no primeiro parágrafo, como costumo fazer): "Quem não gostaria de viver em uma cidade perfeita, com ruas limpas, transporte público eficiente, parques e praças bem cuidados, e uma vida cultural vibrante?". É um bom começo!

FRANCISCO MARSHALL