Elon Musk on AI: humans will no longer be in control in ten years | The Economist

Acho que a IA pode exceder a soma da inteligência humana daqui a cerca de 5 anos.

Em 5 anos? - A minha estimativa é cerca de 5 anos.

Portanto, não haverá nada que a IA não consiga fazer melhor do que os humanos, exceto ser humana, talvez.

A um nível mais prosaico, como será a vida?

O resultado mais provável é uma era de abundância incrível, onde qualquer pessoa pode ter tudo aquilo em que pensar.

Isto pode soar absurdo, mas, bom, aqui estamos em 2026, vejamos onde estaremos em 2036.

Claro que há coisas que poderiam descarrilar isto, como uma guerra termonuclear global maciça ou algo do género.

Mas assumindo que não haverá uma Terceira Guerra Mundial, acho que caminhamos para uma era de abundância incrível. Portanto, isto é uma mensagem de otimismo e entusiasmo pelo futuro.

Tem a certeza de que os humanos já não estarão no controlo daqui a 10 anos?

Acho que é improvável, da mesma forma que, se houvesse algo muito mais inteligente...

...se a diferença de inteligência entre a IA e os humanos for muito maior do que entre a IA e os chimpanzés, é difícil imaginar que os chimpanzés fiquem no comando.

E nós somos, essencialmente, uma forma evoluída de chimpanzé. Portanto, não foi há assim tanto tempo que andávamos de árvore em árvore a comer bananas na selva. E ainda comemos bananas.

Disse que havia 10 a 20% de probabilidade de robôs assassinos exterminarem a humanidade. Parecia preocupado nessa altura. Agora parece muito tranquilo. Mudou de opinião?

Ainda acho que há riscos associados à IA e aos robôs, não é zero. Acho que cheguei à conclusão filosófica de olhar pelo lado positivo.

Não vejo nenhuma forma de travar este impulso incrível da IA e dos robôs.

E às vezes penso que, mesmo que houvesse um botão de parar, provavelmente não o deveríamos premir, porque o resultado mais provável é uma abundância incrível para todos.

Foi o que pensei. Ocorreu-me que agora parece ter decidido que é inevitável, esperemos pelo melhor e aproveitemos a viagem.

Sim, quero dizer, praticamente. Vamos aproveitar a viagem, é a minha filosofia neste momento.

Porque, honestamente, parece haver um progresso inexorável na IA e nos robôs que...

...mesmo que eu quisesse travar, não conseguiria.

Acha que ainda há 10 a 20% de probabilidade de robôs assassinos significarem o fim da humanidade?

Essa é uma probabilidade de ruína elevada, como dizem.

A longo prazo, estamos todos mortos, claro. Por isso...

De acordo com o modelo padrão da física, o fim do universo é uma sopa cinzenta, longa e aborrecida, de arrefecimento gradual. Ou seja, a morte térmica do universo, como lhe chamam.

Portanto, se a morte térmica do universo for de facto o resultado da nossa realidade, então trata-se mesmo da viagem. Porque o destino é terrível.

Mas 10 anos não é... Sim, percebo, mas isso pode estar muito distante. E está basicamente a dizer: se são 10 a 20% em 10 anos, entraria num dos seus foguetões se achasse que havia 10 a 20% de probabilidade de explodir e matá-lo?

Sim, mas digamos que não se pode fazer nada quanto a isso.

Acho que a única coisa que podemos tentar fazer é minimizar a probabilidade de um mau resultado.

Mas tentar travar a inteligência e os robôs...

Durante muito tempo recusei participar na IA, ou criei a OpenAI como contrapeso à Google, porque na altura eles tinham o monopólio da IA.

Ao criar a OpenAI, e depois tendo a Anthropic a nascer disso, e atualmente a Anthropic sendo líder em IA...

...estas ações resultaram em efeitos em cadeia que aceleraram a IA, o que não era realmente a minha intenção.

Por isso, parece que todos os caminhos levam à aceleração da IA.

Então fico do género: ok, pode ficar triste com isso ou juntar-se ao clube, suponho.

Bom, juntou-se com certeza ao clube. - Sim. Se não os podes vencer, junta-te a eles, sabe.

Vários outros líderes de criadores de modelos têm pressionado por diferentes formas de tentar minimizar os riscos. Na semana passada, Demis Hassabis apresentou uma proposta para um regulador público-privado.

Acha que vocês deveriam estar a trabalhar mais ativamente para implementar algo que controle os riscos, ou acha que isso também é impossível?

A minha recomendação ao Demis, porque falei com ele poucas horas antes de publicar o artigo dele, foi que a coisa mais imediata que poderíamos fazer é as principais empresas de IA...

...pelo menos reunirem-se ou fazerem uma chamada de poucas em poucas semanas e discutirem quaisquer questões de segurança e proteção.

Mas porque é que ainda não fizeram isso? Vocês não gostam muito uns dos outros. Também estão todos a competir, certo? Querem todos ser os primeiros.

Sim, mas é aí que acho que os concorrentes se podem manter honestos uns aos outros.

Acho bastante difícil para alguém no governo, que não tenha um conhecimento técnico profundo e não esteja na linha da frente da IA, saber se algo deve ou não ser lançado.

No entanto, os concorrentes, se tiverem uma ou duas semanas para rever um novo modelo, podem apontar problemas e têm um incentivo para manter todos os concorrentes honestos.

Então teria um sistema em que os criadores de modelos verificavam o trabalho uns dos outros; se houvesse algo preocupante, avisavam o governo. O governo agiria então.

Se houvesse algo preocupante e essa empresa não estivesse a fazer nada para resolver o problema, esse seria o momento para o governo intervir e tomar medidas.

Que é literalmente o que propus. - Com que rapidez é que isto tem de acontecer?

Acho que seria bom fazer isso imediatamente, na verdade.

É o que as pessoas me continuam a dizer: temos de ter algum tipo de sistema nos próximos seis meses devido ao ritmo de evolução dos modelos.

Sim, seis meses é muito tempo. - Acha que deve ser mais rápido?

Bom, há tantos anúncios de avanços na IA, às vezes vários por dia. Quantos foram na semana passada?

Muitos. - Perdi a conta. - Muitos.

Portanto, seja a proposta do Demis ou outras, precisam de se reunir e organizar isto já, é o que me parece estar a dizer.

Sim, recomendaria que tivéssemos pelo menos uma chamada informal semanal ou quinzenal...

...e que houvesse talvez uma ou duas semanas de acesso antecipado pelos concorrentes.

E é por isso que acho que os incentivos funcionam, porque as empresas concorrentes tendem a perceber se algo é um risco de segurança, e não hesitarão em destacar que os modelos dos concorrentes devem ter o lançamento adiado.

Vocês não gostam muito uns dos outros nem confiam muito uns nos outros. Estão constantemente a insultar-se nas redes sociais. Acha que consegue fazer isso com pessoas de quem não gosta, onde parece haver tanta hostilidade pessoal entre alguns destes líderes?

Sim. Bom, eu não sou fã do Sam Altman porque...

...se tivesse criado uma organização sem fins lucrativos que devia ser uma empresa de IA de código aberto pertencente ao mundo, e de alguma forma se transformou numa empresa com fins lucrativos de 800 mil milhões de dólares com código fechado, acho que diria: "Espera aí, isto é o oposto daquilo para que doei dinheiro."

Esse é o meu problema. Acho que é um problema legítimo.

E o Dario, penso eu, também não é fã do Sam Altman porque sentiu... Aliás, a razão pela qual a equipa da Anthropic saiu da OpenAI foi por não confiar no Sam Altman. Caso contrário, a Anthropic não existiria; ainda estariam na OpenAI.

Acho que o Dario é uma pessoa de princípios e preocupa-se muito com as coisas, preocupa-se com o futuro do mundo. Todas as pessoas que conheci na Anthropic até agora... Nenhuma ativou o meu detetor de maldade. Parecem sempre ter boas intenções.

O caminho para o inferno está maioritariamente cheio de más intenções. Há algumas pedras de boas intenções pelo meio, por isso não queremos ser complacentes.

Mas no final do dia, se tivermos de falar, falaremos. Deixar de parte as nossas diferenças pessoais pelo bem do mundo, esse tipo de coisa.