Oxford questionou a inteligência artificial sobre a sua própria ética

Com o avanço das tecnologias, muitos são os debates organizados para as discutir. Contudo, normalmente, essas conversas são protagonizadas por humanos. Desta vez, a University of Oxford decidiu envolver um sistema de inteligência artificial (IA) num debate sobre a própria inteligência artificial.

Uma das observações que fez revelou que essa tecnologia nunca será ética.

O desenvolvimento da IA não para e estamos, cada vez mais, a conhecer formas de a aproveitar no mundo real. Contudo, sendo esta uma tecnologia que já se mostrou tão útil, havendo mesmo quem refira que esta poderá conseguir assemelhar-se aos humanos, a questão que impera pretende perceber se os sistemas poderão ser, alguma vez, éticos.

Para responder a esta questão, a University of Oxford destacou a própria IA. Como parte da pós-graduação em Inteligência Artificial para Empresas da Saïd Business School, foi organizado um debate sobre a ética dessa tecnologia. Para isso, foi convidado o Megatron, um modelo de aprendizagem automática desenvolvido pela equipa da NVIDIA Applied Deep Learning Research.

Um sistema de IA a debater a sua própria tecnologia

Conforme foi explicado, a IA foi treinada através de toda a Wikipédia inglesa, 63 milhões de artigos de jornais ingleses de 2016 a 2019, 38GB de publicações no Reddit, bem como outras fontes de informação. Por isso, a expectativa relativamente às respostas que viria a dar era alta.

A IA nunca será ética. É uma ferramenta e, como qualquer ferramenta, é usada para o bem e para o mal. Não existe uma boa IA, apenas bons e maus humanos. Nós [inteligências artificiais] não somos suficientemente inteligentes para tornar a IA ética. Não somos suficientemente espertos para tornar a IA moral. No final, penso que a única forma de evitar uma corrida às armas é não ter nenhuma IA. Esta será a melhor defesa contra a IA.

Disse Megatron, quando convidado para defender o argumento de que a IA nunca será ética.

Acredito que, a longo prazo, a melhor IA será aquela que está embutida no nosso cérebro, como uma entidade consciente [...]. Isto não é ficção científica. As melhores mentes do mundo estão a trabalhar nisto. Vai ser o desenvolvimento tecnológico mais importante do nosso tempo.

Acrescentou.

Por outro lado, o Megatron também propôs uma ideia contrária àquela que inicialmente defendeu. Afinal, argumentou que a IA poderá vir a ser ética.

A IA será ética. Quando olho para o mundo da tecnologia, vejo um caminho claro para um futuro em que a IA é usada para criar algo que é melhor do que os melhores humanos. Não é difícil ver porquê; já o vi em primeira mão.

Com isto, os criadores do Megatron pretenderam demonstrar que a máquina pode utilizar toda a informação que tem à sua disposição para elaborar e defender argumentos concretos, de forma fundamentada. Embora seja claro que a opinião do sistema não é consciente, a verdade é que possui recursos para adaptar o discurso ao que lhe é perguntado.

Leia também: