Do no evil! Não pratique o mal!
Foi sob esse lema generoso, altruísta, que espelhava as esperanças civilizatórias dos primórdios da internet, que o Google iniciou sua vida empresarial em 1998, depois de despedir-se do campus de Stanford, onde nascera.
Essa reminiscência me vem à tona agora, a propósito do turbilhão interno por que passou a OpenIA, a inventora do ChatGPT, cujas voltas e reviravoltas dos últimos dias haverá um dia de ser roteirizada, talvez ainda por profissionais humanos, e exibida como minissérie em uma das, por ora múltiplas, distribuidora globais de vídeo.
Recapitulando: em quatro frenéticos dias, Sam Altman, um dos fundadores e a face mais visível da OpenIA, foi demitido das suas funções de CEO pelo Conselho Diretor da empresa, por razões inicialmente pouco claras. Imediatamente, a Microsoft, a maior investidora na OpenIA, anunciou a contratação de Altman que, com o co-fundador Greg Brockman, iria criar um laboratório avançado voltado à inteligência artificial para, em última instância, competir com o antigo ninho. Foi o que bastou para que centenas de funcionário da OpenIA anunciassem que iriam se juntar a Altman e Brockman em seu novo empreendimento. O que acabou não acontecendo porque, no dia seguinte, Altman estava de volta ao seu posto na OpenIA.
E as coisas começaram então a ficar mais claras, revelando-se ter sido um embate entre – à moda do lema original do Google -, quem pretendia fazer o bem e evitar o mal, e os malvados, Altman à frente, que estariam a solapar a missão histórica a que a OpenIA tinha se proposto em sua origem: a de assegurar que a inteligência artificial não se tornasse uma besta capaz de ameaçar o futuro da humanidade.
Esse embate, em verdade, começou a se configurar em 2015, quando a OpenIA foi fundada como uma empresa sem fins de lucro, com uma estrutura de governança original e complexa (https://openai.com/our-structure), encabeçada por um Conselho Diretor, abaixo do qual se criou uma subsidiária, esta sim com fins de lucro. A essa subsidiária caberia buscar os investidores capazes de assegurar os recursos necessário a pesquisa e desenvolvimento. Compunham esse Conselho, como seu presidente, Greg Brockman; Sam Altman, CEO; Ilya Sutskever, o terceiro fundador, como cientista-chefe; e três membros externos: Tasha McCauley, cientista de computação, empreendedora e pesquisadora da Rand Corporation; Helen Toner, diretora de estratégia do Centro de Segurança e Tecnologias Emergentes da Georgetown University; e Adam D'Angelo, CEO da Quora.
Desde esse início, Sutskever, McCauley e Toner eram historicamente alinhados à ideia do 'do no evil', ou dito de outra forma, mais contemporânea, se identificavam com um movimento filosófico do campo da tecnologia, conhecido como Effective Altruists. Foram eles, com a adesão de D'Angelo, que inicialmente empurraram Altman para fora do Conselho e, em consequência, da OpenIA, no que foi acompanhado por Brockman. Mas, muito rapidamente, na medida em que o caos corporativo se instalava, Sutskever manifestou publicamente seu arrependimento da decisão, aliviando a pressão sobre D'Angelo. Sam Altman e Greg Brockman foram rapidamente reinstalados em seus postos na subsidiária; Sutskever, Toner e McCauley foram dispensadas do Conselho, mas o primeiro permanece na empresa, e um novo corpo diretor começou a tomar forma, com dois novos ingressos, que se juntam ao remanescente D'Angelo.
Deles, o nome mais reconhecido, e que deixa muito claro o novo rumo da OpenIA, é o de Lawrence Summers, ex-Secretário do Tesouro sob Billl Clinton, e ex-presidente de Harvard. Com ele, ingressou Brett Tayor, co-CEO da Salesforce, e membro do Conselho de Administração do Twitter, e que já foi executivo-chefe do tecnologia do Facebook. Dá-se como provável a entrada de novos membros no Conselho, alinhados com o novo perfil, indubitavelmente comercial, entre eles alguém da Microsoft.
Em 2015, numa decisão que passou largamente despercebida, até mesmo em círculos especializados, o Google, ao se transformar em Alphabet, sua nova identidade corporativa, abandonou o lema original, o 'do no evil', pelo bem comportado, realista e pragmático, 'do the right thing' ('faça a coisa certa'). Assim, o que a Alphabet fez sem alarde, até por se tratar de algo com valor muito mais simbólico do que efetivo, e depois de uma década e meia de desenvolvimentos tecnológicos, de novas aplicações e de serviço, acompanhados de incorporações de potenciais novos concorrentes, com seu motor de busca tornando-se virtualmente monopolista, a OpenIA fez antes mesmo de se provar como empresa, sem ainda gerar um centavo de receita para seus investidores. E o fez sangrando em praça pública.
Essa quase auto-imolação da empresa, vista como a ponta de lança da maior inflexão político-econômica e tecnológica da internet desde a invenção do web, da navegação gráfica, da capacidade de busca pelo conhecimento quase universal, da disrupção e reinvenção do mercado publicitário movido essencialmente por dados pessoais, é diretamente proporcional ao impacto que a inteligência artificial está tendo, e ainda terá, na história da humanidade. Porque essa quase auto-imolação se deu justamente porque parte do que foi até dias atrás a OpenIA estava convencida de que entregá-la exclusivamente aos imperativos do mercado poderia levar um dia à auto-imolação da própria humanidade.
Não obstante, sem surpresas, o mercado venceu, e aí está Lawrence Summers, o homem que faz não muito tempo presidiu o Tesouro da maior economia de mercado do planeta, para deixar isto auto evidente.
Logo, a auto-contenção que o mercado da inteligência artificial já exige continuará, sem surpresas, a depender da capacidade de Estados e, sobretudo, da sociedade civil global, esta na sua maior diversidade possível, de agirem na maior sintonia política, normativa e regulatória possíveis. Por mais abissais que já são, e serão, os obstáculos econômicos que se porão à frente. Porque os riscos serão cada vez mais abissais.
Em 1991, numa viagem aos Estados Unidos, comprei um livro intitulado The Critical Theory of Technology, de Andrew Feenberg, até hoje um dos mais reconhecidos filósofos da tecnologia, professor da Universidade Simon Fraser, no Canadá. De tudo o que, na ocasião, recolhi dele, uma sentença me acompanha desde então, numa trajetória acadêmica e profissional que já se estende por décadas: "Tecnologia não é destino; é arena de luta". Não há nada na inteligência artificial que seja definitivo, como de definitivo não há, por exemplo, no uso de dados pessoais para sustentar economicamente a indústria das redes sociais.
Tudo está em jogo, e as escolhas políticas existem, que não sejam exatamente aquelas determinadas pela lógica indiscriminada do lucro. Os resultados, é claro, dependem das correlações de forças a cada ocasião, e seus desfechos, é forçoso reconhecer, não costumam favorecer os que desafiam a lógica dominante. Como foi o caso, ora aqui comentado, da OpenIA. Dos quatro que a desafiaram, dois recuaram e ficaram. Saíram as duas mulheres.
Quem sabe ai resida um sinal de como as correlações de força poderão se mover de forma diferente no futuro. A ver.
- * – Sobre o autor: Murilo Ramos é Professor Emérito da Faculdade de Comunicação da UnB. Pesquisador Sênior do Centro de Políticas e Regulação das Comunicações (CCOM). Sócio-fundador da ECCO – Estudos e Consultoria em Comunicações. As opiniões expressas nesse artigo não necessariamente refletem o ponto de vista da TELETIME.
