Zuckerberg publicou um extenso artigo descrevendo o roteiro da Meta para inteligência artificial, que visa criar uma superinteligência pessoal

Escrito por: Xiao Jing, Tencent Technology

No dia 10 de agosto, horário local dos Estados Unidos, Mark Zuckerberg publicou um longo artigo intitulado "O futuro pertence a todos: o caminho para um futuro positivo da inteligência artificial".

Superficialmente, trata-se de uma declaração de política sobre superinteligência, segurança, código aberto e infraestrutura, mas por trás deste extenso documento reside um tema mais crucial: o objetivo futuro da Meta é criar "superinteligência pessoal".

Zuckerberg estabeleceu uma premissa muito clara para esse conceito: a superinteligência não pode, em última análise, ser controlada por algumas empresas, governos ou laboratórios; ela deve ser disponibilizada para mais pessoas comuns.

Nos últimos dois anos, as discussões na indústria de inteligência artificial sobre superinteligência têm se concentrado principalmente na extensão em que os modelos podem atingir suas capacidades e em como evitar que um sistema com capacidades muito superiores às dos humanos saia do controle. Zuckerberg argumenta que, mesmo que a superinteligência em si seja segura, se esse poder acabar nas mãos de um número muito pequeno de instituições, isso ainda poderá levar a novos desequilíbrios de poder.

Portanto, a solução que ele propõe é muito "meta".

Ele acredita que os princípios fundamentais para o desenvolvimento futuro da inteligência artificial devem se concentrar em três aspectos: considerar o empoderamento individual como a fonte da prosperidade, considerar a inovação como o principal objetivo da superinteligência e garantir a segurança por meio de mecanismos de controle e equilíbrio.

Em sua visão, todos terão um agente superinteligente ao seu lado a longo prazo. Ele conhecerá seu estilo de trabalho, estado de saúde, situação familiar e objetivos de longo prazo, podendo realizar pesquisas, escrever códigos, projetar produtos, planejar tarefas e até mesmo ajudá-lo a concluir tarefas que antes exigiam uma empresa.

Isso também explica por que Zuckerberg incluiu vários tópicos aparentemente não relacionados no mesmo artigo: modelos de código aberto, emprego impulsionado por IA, governança de segurança, construção de data centers e até mesmo as capacidades de energia e infraestrutura dos Estados Unidos.

Tudo isso aponta para a mesma questão: se a superinteligência pessoal realmente se tornar a próxima geração de plataformas computacionais, quem a controlará, quem arcará com os custos computacionais por trás dela e quem decidirá o que ela poderá fazer?

A resposta de Zuckerberg reflete claramente a filosofia de produto da Meta ao longo das últimas duas décadas.

O Facebook capacitou todos os usuários com a habilidade de criar e distribuir conteúdo, enquanto o Instagram e o WhatsApp expandiram ainda mais essa conexão. Na era da inteligência artificial, a Meta espera replicar um modelo descentralizado semelhante, transformando as capacidades intelectuais de grandes instituições em ferramentas essenciais para pessoas comuns.

Mesmo na questão da segurança da inteligência artificial, as opiniões de Zuckerberg não são totalmente consistentes com o debate predominante no Vale do Silício.

Ele acredita que um dos riscos reais a serem considerados no futuro é a superconcentração de capacidades de superinteligência. Seguindo essa lógica, para a Meta, os modelos abertos não são mais apenas uma opção tecnológica para competir com a OpenAI e a Anthropic.

Gradualmente, isso se tornou parte da visão de Zuckerberg sobre como uma sociedade superinteligente funcionaria. Em um nível mais prático, a Meta também está buscando novas oportunidades de negócios para explorar esse conceito.

Se a inteligência artificial evoluir de chatbots para agentes inteligentes pessoais capazes de acompanhar os usuários a longo prazo, o ponto de entrada verdadeiramente importante poderá não ser mais páginas da web ou aplicativos móveis, mas sim um sistema de IA que possa compreender continuamente os usuários e agir a qualquer momento. A Meta possui relacionamentos sociais, conteúdo, produtos de comunicação e óculos inteligentes; esses recursos agora têm a oportunidade de serem integrados em torno de uma "superinteligência pessoal".

O artigo de Zuckerberg visa levantar uma questão mais ampla do que "Será que a Meta consegue criar o modelo mais poderoso?".

01 De “Controlar a Superinteligência” para “Distribuir a Superinteligência”

Em seu artigo, Zuckerberg levanta uma questão fundamental: quem possuirá a superinteligência no futuro? Se a superinteligência se concentrar nas mãos de algumas empresas, governos ou laboratórios, isso criará novos desequilíbrios de poder na sociedade?

Nos últimos anos, um dos principais temas de discussão no campo da segurança da inteligência artificial tem sido como garantir que os futuros sistemas superinteligentes permaneçam alinhados com os valores humanos — o chamado "problema da consistência". Muitos pesquisadores temem que, se as capacidades da inteligência artificial ultrapassarem em muito as dos humanos e seus objetivos forem incompatíveis com os interesses humanos, isso poderá levar a riscos incontroláveis. 

Imagem: Zuckerberg delineando a visão da Meta AI

No entanto, Zuckerberg argumenta que confiar exclusivamente em meios tecnológicos para criar uma "superinteligência que sirva perfeitamente aos interesses de todos" é logicamente falho.

A razão reside no fato de não existir um sistema de valores unificado na sociedade humana. Diferentes indivíduos, culturas e grupos têm definições distintas de uma vida boa. A superinteligência, concebida e controlada por algumas instituições, inevitavelmente favorecerá certos grupos em suas escolhas de valores e não poderá representar os interesses de todos.

Portanto, ele propôs uma abordagem alternativa: em vez de tentar criar uma superinteligência centralizada e absolutamente correta, é melhor permitir que mais pessoas possuam sua própria superinteligência, formando um novo equilíbrio de poder por meio da competição entre indivíduos, empresas e instituições.

Zuckerberg usa o exemplo de "advogados superinteligentes" para ilustrar esse ponto.

Se apenas uma pessoa no mundo possuísse habilidades jurídicas superinteligentes, essa pessoa obteria uma vantagem assimétrica significativa no sistema legal. No entanto, se todos tivessem capacidades semelhantes, a distribuição de recursos jurídicos seria mais equitativa e a lacuna de informação entre o público em geral e as grandes instituições diminuiria.

Da mesma forma, se apenas uma organização possuir capacidades de cibersegurança superinteligentes, ela poderá se tornar o maior risco de segurança; mas se os defensores também tiverem ferramentas de IA poderosas, o nível geral de segurança dos sistemas digitais poderá, na verdade, melhorar.

Dentro da estrutura de Zuckerberg, a segurança da inteligência artificial não pode depender apenas da limitação de suas capacidades; mais importante ainda, trata-se de impedir que a superinteligência forme uma concentração de poder descontrolada.

02 A forma de produto mais importante da inteligência artificial no futuro

Com base nesse conceito, a Meta está promovendo a abordagem da "superinteligência pessoal".

Zuckerberg acredita que a forma mais importante de produto da inteligência artificial no futuro evoluirá de chatbots de perguntas e respostas para agentes inteligentes pessoais que possam entender os usuários a longo prazo e ajudá-los a atingir seus objetivos.

Este agente inteligente se tornará um assistente inteligente no dia a dia dos usuários, capaz de compreender preferências pessoais, objetivos e necessidades de longo prazo, ajudando-os continuamente a otimizar sua saúde, trabalho, gestão familiar, planejamento financeiro, aprendizado e crescimento.

Diferentemente da maioria das ferramentas de IA atuais, o principal valor dos futuros agentes pessoais de IA irá se expandir, passando de fornecer informações para tomar ações em nome dos usuários. Por exemplo, eles podem ajudar os usuários a organizar informações, gerar inspiração, planejar tarefas, fornecer sugestões de estilo de vida com base em seus dados de saúde e até mesmo auxiliar na organização de atividades familiares.

Zuckerberg enfatiza a importância da privacidade. Para que a superinteligência pessoal se integre verdadeiramente à vida das pessoas, ela precisa obter a autorização do usuário para acessar grandes quantidades de informações privadas. A Meta propõe que os futuros agentes de inteligência pessoal ofereçam um "modo completamente privado", no qual nem mesmo a Meta poderá visualizar as informações do usuário ou autorizar terceiros a acessá-las.

Isso também representa um novo tipo de relação humano-máquina que a Meta está tentando estabelecer: a inteligência artificial se transformará de uma ferramenta pertencente às empresas em uma capacidade pertencente aos indivíduos.

Em discussões sobre emprego e automação, as opiniões de Zuckerberg divergem drasticamente do senso comum. Ele argumenta que a contribuição mais importante da superinteligência não reside apenas em substituir empregos humanos, mas em ajudar a humanidade a criar coisas novas que antes eram impossíveis.

Historicamente, toda grande revolução tecnológica gerou preocupações com o desemprego. Da Revolução Industrial à era da internet, sempre houve receios de que as máquinas substituíssem um grande número de empregos. Mas, no fim das contas, a tecnologia não só aumentou a produtividade, como também criou novas indústrias e profissões. Zuckerberg acredita que a era da inteligência artificial seguirá um padrão semelhante.

A mudança verdadeiramente importante no futuro não será a substituição de tarefas repetitivas por máquinas, mas sim a aquisição, por pessoas comuns, de habilidades que antes eram exclusivas de grandes corporações e organizações profissionais.

Os indivíduos podem aproveitar a inteligência artificial para concluir o design de produtos, o desenvolvimento de software, a pesquisa de mercado e até mesmo iniciar negócios sem a necessidade de grandes equipes. Isso transformará a forma como as empresas são organizadas.

As empresas do futuro podem ser menores, mas a produtividade individual será maior. Muitas ideias que antes eram impossíveis devido aos altos custos ou barreiras tecnológicas se tornarão viáveis com o uso generalizado de ferramentas de inteligência artificial. Zuckerberg acredita que a superinteligência deve se tornar, em última análise, a infraestrutura para a inovação, e não apenas máquinas automatizadas.

03 Comércio em Ecossistemas de Código Aberto: A Estratégia de Competição em Inteligência Artificial da Meta

Além de sua excepcional sabedoria pessoal, o código aberto também é um tema central nos artigos de Zuckerberg.

A Meta sempre apoiou o modelo de código aberto, o que a diferencia claramente de alguns concorrentes que enfatizam o modelo fechado. Zuckerberg acredita que o código aberto não só impulsiona a inovação, como também aumenta a segurança.

Imagem: Wang Tao, chefe da Meta AI, anunciou que a empresa lançará em breve uma versão de código aberto do Muse Spark 1.2.

Sua lógica é que, com mais pesquisadores, desenvolvedores e empresas tendo acesso ao modelo, mais pessoas poderão descobrir vulnerabilidades, aprimorar sistemas e impulsionar a rápida iteração tecnológica. Por outro lado, se a superinteligência for controlada por poucas instituições por muito tempo, a sociedade carecerá de mecanismos de controle e equilíbrio suficientes.

Zuckerberg acredita que, embora os Estados Unidos atualmente possuam vantagem em áreas como design de chips na competição global, enfrentam desafios em energia, data centers e velocidade da infraestrutura. A futura competição em inteligência artificial não se resumirá apenas a algoritmos, mas também a energia e poder computacional.

Ele enfatizou que os Estados Unidos precisam acelerar o desenvolvimento de infraestrutura, mantendo suas vantagens em ecossistemas abertos.

Em relação ao uso de dados no treinamento e aprimoramento de modelos, Zuckerberg acredita que os Estados Unidos não devem enfraquecer sua competitividade por meio de restrições excessivas. Ele argumenta que o desenvolvimento da inteligência artificial se baseia fundamentalmente na acumulação de conhecimento humano, e a aprendizagem mútua entre modelos é um caminho crucial para o progresso tecnológico. Se os Estados Unidos restringirem excessivamente seu ecossistema de código aberto, poderão, inadvertidamente, criar oportunidades para outros países.

Em relação a questões de segurança, Zuckerberg não nega os riscos potenciais representados pela inteligência artificial. Ele se concentrou em tópicos como segurança cibernética, riscos biométricos e a expansão do poder governamental.

Seu argumento central é que, diante dos riscos da inteligência artificial, a sociedade deve fortalecer suas próprias defesas em vez de simplesmente limitar as capacidades tecnológicas.

Por exemplo, na área da cibersegurança, se apenas os atacantes possuírem ferramentas avançadas de inteligência artificial, o risco certamente aumentará. No entanto, se empresas, governos e indivíduos puderem aproveitar a inteligência artificial para aprimorar suas próprias capacidades de defesa, o nível geral de segurança do sistema também será melhorado.

Em relação aos riscos biológicos e químicos, Zuckerberg acredita que as políticas públicas devem se concentrar em restringir a produção e a disseminação de substâncias perigosas, em vez de dificultar o desenvolvimento do conhecimento científico.

À medida que a inteligência artificial acelera o desenvolvimento de medicamentos e a pesquisa em ciências da vida, os sistemas regulatórios também precisam ser atualizados de acordo; caso contrário, os processos tradicionais de aprovação podem se tornar um gargalo para a inovação.

04 A "Conta da Comunidade" no Centro de Dados

A corrida pela inteligência artificial está entrando na era da infraestrutura.

Grandes centros de dados, suprimentos de energia e recursos computacionais estão formando a base para o desenvolvimento de supercomputadores. No entanto, ao mesmo tempo, a sociedade americana está cada vez mais preocupada com o consumo de energia, a pressão sobre os recursos hídricos e o impacto ambiental da construção de grandes centros de dados.

Zuckerberg enfatizou que os benefícios do desenvolvimento da infraestrutura de IA devem ser compartilhados com a comunidade. A Meta propôs o conceito de um "contrato comunitário", na esperança de que as localidades dos centros de dados recebessem mais oportunidades de emprego, investimentos em educação e apoio de serviços públicos.

Ele acredita que os centros de dados não devem ser vistos meramente como instalações que consomem recursos, mas sim como ativos de longo prazo que impulsionam o desenvolvimento econômico regional, assim como as infraestruturas ferroviárias, elétricas e de internet no passado.

Imagem: Projeto de centro de dados da Meta no Condado de Richland, Louisiana, EUA.

Essa também é uma resposta importante da Meta às dúvidas externas sobre seu investimento em larga escala em inteligência artificial.

A competição na área da inteligência artificial no futuro exigirá enormes investimentos de capital, e a capacidade de esses investimentos serem aceitos pela sociedade será um problema que as empresas de tecnologia precisarão resolver.

Em relação à governança corporativa, Zuckerberg acredita que o desenvolvimento da superinteligência não pode depender do julgamento de um único líder. Ele reconhece que ter o CEO como o tomador de decisão final para a implementação da superinteligência não é o ideal. Portanto, a Meta está estabelecendo um novo mecanismo de governança que permite que um conselho de administração independente participe da definição de padrões de segurança para versões de modelos e da revisão do lançamento de modelos principais.

Na verdade, esse acordo é uma resposta a preocupações antigas sobre a concentração das capacidades de inteligência artificial nas mãos de grandes empresas de tecnologia.

Ao mesmo tempo, Zuckerberg também discutiu os riscos extremos que poderiam surgir caso a inteligência artificial adquirisse a capacidade de se aprimorar autonomamente.

Se os sistemas de inteligência artificial conseguirem aprimorar continuamente suas capacidades, os recursos computacionais poderão se tornar o fator decisivo. Teoricamente, sistemas com capacidade de auto-otimização contínua podem ampliar rapidamente a diferença entre si e outros sistemas.

Portanto, ele acredita que, mesmo que algum poder computacional precise ser investido no futuro para alcançar o aperfeiçoamento recursivo da inteligência artificial, a maioria das capacidades inteligentes ainda deve ser controlada por humanos para atingir objetivos humanos.

05 Conclusão: Buscando o mercado de entrada de plataformas de computação de próxima geração

A julgar pelas ações da Meta ao longo do último ano, este longo artigo parece estar discutindo questões de segurança da inteligência artificial, mas o que realmente preocupa o autor é claramente o futuro da Meta.

Superinteligência pessoal, modelos abertos, óculos inteligentes e investimentos em computação em larga escala — essas iniciativas aparentemente díspares foram entrelaçadas em uma narrativa única: a próxima fase da competição em IA deixará de ser sobre quem possui o modelo mais poderoso e passará a ser sobre quem consegue controlar o ponto de contato mais duradouro e frequente entre humanos e IA.

Esta é uma guerra com a qual Meta está muito familiarizado.

Nas últimas duas décadas, do Facebook ao Instagram e ao WhatsApp, o principal ativo da Meta sempre foi a porta de entrada para os usuários. No entanto, na era da internet móvel, essa porta de entrada tem sido limitada por sistemas operacionais como os da Apple e do Google. A inteligência artificial oferece a Zuckerberg a oportunidade de redefinir as plataformas de computação: se todos tiverem um agente inteligente capaz de compreendê-los continuamente, acessar diversos serviços e agir em seu nome, esse agente inteligente poderá se tornar o novo sistema operacional.

O significado dos óculos inteligentes também mudou. Eles não são mais apenas um novo tipo de hardware, mas podem se tornar terminais para inteligência artificial pessoal, capazes de adquirir informações do mundo real e interagir continuamente com os usuários; o modelo aberto não é apenas uma estratégia da indústria de tecnologia, mas também visa expandir ao máximo a abrangência da pilha de tecnologias Meta.

No entanto, existe aqui uma contradição que merece ser explorada mais a fundo.

Zuckerberg espera abordar as preocupações sobre a centralização das capacidades de inteligência artificial propondo a ideia de que "a superinteligência pertence a todos". No entanto, os verdadeiros limites das capacidades individuais de IA ainda dependem de modelos, poder computacional, terminais, canais de distribuição e, principalmente, dados pessoais. A superinteligência pode ser acessível a todos, mas a infraestrutura que a suporta possui fortes economias de escala.

Em outras palavras, quanto maior a capacidade de personalização da inteligência artificial, maior poderá ser a concentração da sua plataforma subjacente.

Portanto, o sucesso final da abordagem da Meta depende não apenas de sua capacidade de criar um modelo suficientemente poderoso, mas também, e talvez mais importante, de sua capacidade de, pela primeira vez, contornar a Apple e o Google para estabelecer seu próprio gateway de computação controlado; e, quando a inteligência artificial começar a entender os usuários melhor do que qualquer aplicativo, quem realmente detém essa inteligência artificial e quem realmente detém os dados e relacionamentos resultantes.