Na Bett UK, Londres

Quando em 1997 o sistema computacional da IBM Deep Blue venceu o grande enxadrista Gary Kasparov, a pesquisadora Rose Luckin já estudava sobre inteligência artificial (IA). Ela se lembra da empolgação de ver um ‘robô’ conseguir fazer algo tão humano como jogar. Mas o Deep Blue não ficou feliz, nem teve consciência do impacto do seu feito. E apesar da derrota contra a máquina, os humanos continuaram a jogar xadrez. Continuaram também a criar novos sistemas de IA. Rose se manteve estudando o tema e é hoje professora do Laboratório do Conhecimento na University College London (UCL), no Reino Unido.

A pesquisadora defende que, num futuro próximo, não existe a possibilidade de chegarmos à dita singularidade – momento teórico em que as IAs ultrapassariam todas as inteligências humanas. Sendo “futuro próximo” definido por ela como um intervalo entre os próximos cinco ou 10 anos. No entanto, acredita que os humanos devem tomar muito cuidado com o uso indiscriminado de IAs. Em 2018, Rose lançou o livro Machine Learning and Human Intelligence: The Future of Education (Aprendizado de máquina e inteligência humana: o futuro da educação, em tradução livre). Depois de sua participação em dois painéis na Bett UK, em Londres, ela falou com a reportagem para apresentar sua visão de como deveria ser o relacionamento da raça humana com as IAs.

 

Leia: Evolução das decisões estratégicas com o uso da inteligência artificial

 

Devemos ter medo da inteligência artificial? 

 

Não tenho certeza se medo é a palavra. Acho que devemos ser cautelosos sobre o que as pessoas estão fazendo com IA e sobre o fato de que não entendemos exatamente como alguns dos algoritmos de IA funcionam. Dessa forma, é difícil prever exatamente como essas ferramentas se desenvolverão. Precisamos ser cautelosos principalmente em relação às pessoas que estão promovendo algumas dessas ferramentas, pessoas que vão ganhar muito dinheiro – e já estão ganhando muito dinheiro com IA.

 

Mas esses sistemas de IA podem trazer benefícios? 

 

Eu realmente acredito que a IA pode trazer muitos benefícios para a educação e para o mundo, mas somente se a usarmos da maneira certa e somente se entendermos como regulá-la adequadamente. Para chegarmos a uma boa regulamentação, temos que ajudar as pessoas a entender o suficiente sobre IA, como é possível usá-la de forma que seja benéfica para si mesmas, que reduza o risco de serem prejudicadas. Não quero dizer que todos tenham que entender exatamente como a IA funciona ou como construir IA. É ótimo quando as pessoas querem fazer isso, mas precisamos ajudar todos a entender o suficiente sobre o que a IA pode fazer e o que não pode fazer.

 

Com a chegada do chatGPT estamos presenciando o momento de uma grande invenção tecnológica? 

 

A tecnologia por trás do chatGPT por exemplo não é nova; ela já existia há vários anos. A razão de que estamos num momento decisivo para a sociedade de forma geral e para a educação particularmente não é porque a tecnologia em si é nova. É porque pela primeira vez se tem uma ferramenta da IA escalável, fácil de usar e gratuita, que todo mundo pode usar. Nós estávamos sendo usados pela IA há vários anos, mas é a primeira vez que podemos todos acessar e brincar com uma ferramenta de IA poderosa. Não se trata de uma tecnologia nova, mas de ela ter sido tornada acessível em escala.

 

As máquinas vão se tornar mais inteligentes que os humanos em breve?

 

O importante é reconhecermos a diferença entre inteligência humana e artificial. Pego o exemplo do chatGPT porque estamos familiarizados com ele, mas é importante ressaltar: ele não entende nenhuma das palavras que produz. Ele não sabe como essas palavras se aplicam no mundo. Isso não é conhecimento; é informação. Como humanos, queremos saber como as coisas se aplicam no mundo. Vou contar uma breve história. Eu estava cuidando do meu neto, então com cinco anos, e ele estava com dificuldade de dormir. Ele me pediu para ir para o quarto dele e para eu ler em voz alta o que eu estava lendo. Era um livro filosófico sobre IA. Depois de uns parágrafos, ele me falou: isso quer dizer que meu pai e minha mãe me amam? Respondi que sim. Embora ele não soubesse nada sobre IA, ele tentava entender como as palavras que eu dizia se aplicavam no mundo dele. Por isso digo que meu neto era mais inteligente que o chatGPT, porque ele tentava entender as coisas.

 

São tipos diferentes de conhecimento?

 

O chatGPT poderá contar muito sobre Shakespeare, mas sabe como a obra de Shakespeare impactou o mundo? Nas ciências químicas, poderá fornecer uma descrição sobre uma droga específica, mas não entenderá como as palavras que ele produz sobre essa droga impactam os indivíduos. Precisamos pensar sobre o que é saber algo para reconhecer a diferença entre sistemas como IA generativa, coisas como chatGPT, e nossa própria experiência humana no mundo. Podemos ajudar as pessoas a obter o melhor da IA conhecendo suas limitações, mas é claro que muitas das pessoas que estão construindo os sistemas de IA realmente não querem que entendamos as limitações.

 

A senhora acredita que os humanos valorizam pouco a própria inteligência? 

 

Só valorizamos certas partes da nossa inteligência, aquelas que sabemos medir e que medimos ao longo de décadas e séculos. Temos uma imagem muito particular do que significa ser inteligente. Há muitas maneiras pelas quais nós, humanos, somos inteligentes que não reconhecemos o suficiente, e muitas dessas são muito difíceis, senão impossíveis, de automatizar com IA. As pessoas estão compreensivelmente ansiosas com a IA, e uma das formas de abordar a situação é aprender mais sobre a inteligência humana e o aprendizado.

 

Pode dar exemplos de que aspectos da inteligência humana são desvalorizados? 

 

Cada vez que você vem para a Bett, em Londres, você tem uma expectativa. Mas ela não será exatamente da mesma maneira e você não verá exatamente as mesmas pessoas. O que você vai encontrar no trajeto não será exatamente o mesmo, mas você não terá problemas em fazer essa viagem, mesmo se for em um local em que você nunca esteve. Não será um desafio descobrir como interagir com as pessoas de maneira apropriada, saber como se portar dentro da exposição, o que pode fazer quando está ouvindo uma palestra. É um comportamento humano complexo que a IA acharia incrivelmente difícil de fazer, mas não pensamos nisso como sendo inteligência. E quando pensamos acerca do nosso próprio pensamento, quando refletimos sobre o que fizemos. Muitas vezes penso ao fim de um dia agitado: não entendi direito certa coisa, ou deveria ter sido mais legal com aquela pessoa. Avaliar nossas emoções, buscar entender mais sobre nós mesmos são comportamentos muito inteligentes que a IA não pode fazer.

 

O uso da IA pode interferir na inteligência humana? 

 

Temos de descobrir qual é o nosso relacionamento com os sistemas de IA que foram construídos. Muitos deles são extremamente úteis – e eu os uso. Mas temos de ter cuidado. Há coisas que a IA faz que nós, como humanos, achamos chatas e difíceis. Deixar a IA fazer isso, às vezes, pode ser a decisão certa. Talvez, com o tempo, nossos cérebros deixem de ser capazes de fazer essas coisas. Pode estar tudo bem se isso acontecer. Mas temos que refletir, porque em algumas situações talvez não fique tudo bem. Certas coisas seria melhor que fizéssemos. Nossos cérebros são naturalmente preguiçosos; são feitos para buscar o conforto. Certas horas é bom termos que pensar; as atividades mentais extenuantes são positivas. É preciso cuidado para não evitarmos esforço mental de forma inapropriada.

 

No Brasil, é comum dizerem que as escolas atuais parecem iguais às escolas de um século atrás. A senhora vê uma mudança a partir de agora? 

 

Não tenho certeza se vai ter necessariamente uma aparência diferente, acho que é mais pelo que vai acontecer com as pessoas em salas de aula. Isso dependerá muito da decisão que começamos a tomar agora. Muitas empresas vão buscar persuadir os tomadores de decisão na educação que têm sistemas artificialmente inteligentes capazes de assumir muitas das atribuições dos professores. Como os sistemas de IA não precisam de férias e não ficam doentes, tampouco entram em greve, se um país está com pouco dinheiro, eles podem pensar que uma IA poderia ajudar a educação. Temos que definir quais aspectos de uma atividade queremos que a IA faça e quais queremos que o humano faça. Se um tomador de decisão estiver tentado por um sistema de IA porque é mais barato que um professor humano, provavelmente não é a melhor solução. O caminho que vejo é a parceria entre a IA e o professor, para que o professor tenha mais impacto e seja mais eficaz. Mas os que vendem a IA não serão todos escrupulosos.

 

Então o futuro da educação pode ficar pior com o uso de sistemas inteligentes? 

 

Eu me preocupo com o futuro, que vai depender de quão boas serão nossas decisões agora. Um futuro distópico horrível – que é perfeitamente possível – são salas de aula cheias de alunos usando tecnologia de IA para aprender assuntos específicos e muito poucos professores humanos. Seria absolutamente horrível, mas seria mais barato. E tenho certeza de que famílias e nações com mais recursos continuarão a ter muita interação humana na escola, usando IA sabiamente. Então, a desigualdade vai crescer e isso não vai nos levar a um lugar melhor como espécie humana. No momento, precisamos aprender sobre IA para tomar decisões sensatas.

 

A senhora usa um caderno e papel e caneta. Ainda é a melhor tecnologia para tomar notas? 

 

Há várias razões pelas quais ainda escrevo com caneta e papel, uma delas é que realmente gosto da experiência. Na minha própria consciência metacognitiva, o processo de escrever me ajuda a lembrar das coisas. Escrever com uma caneta também ajuda a me concentrar mais quando estou assistindo uma apresentação, ouvindo alguém falar. Já tentei muitas coisas; às vezes, escrevo num dispositivo digital em vez de papel, mas como se usasse uma caneta.

 

Leia em SSIR Brasil: Em Defesa da Inteligência Artificial Causal