Em maio deste ano, a OCDE (Organização para a Cooperação eDesenvolvimento Econômico) divulgou seu documento de princípios paraInteligência Artificial (IA), assinado por 42 países no total, incluindo o
Brasil, no qual afirma, entre outros pontos, que a nova tecnologia devebeneficiar as pessoas e o planeta em direção a um crescimento inclusivo esustentável e respeitar leis, direitos humanos e valores democráticos.Seis meses depois, o debate sobre o tema no Fórum deGovernança da Internet, em Berlim, mostrou o quão complexo é passar dosprincípios para a prática, ou seja, como implementar o que pelo menos uma boaquantidade de países já assumiu como relevante neste campo.
Um primeiro desafio colocado está na origem dodesenvolvimento dos modelos e programas de Inteligência Artificial. Reafirmandoa ideia de que o código é reflexo das pessoas que o elaboraram e que princípioséticos variam ao redor do mundo, especialistas reunidos no IGF 2019 alertaramsobre a necessidade de olhar para esses processos desde o início.
"Quando vemos quem é parte das equipes de desenvolvimento naÁfrica, não vemos mulheres. E elas também não estão nas salas de aula dasuniversidades que ensinam tecnologia. Então temos que trabalhar com a inclusãodesde o início", disse Sarah Kiden, de Uganda, pesquisadora da UniversidadeDundee, na Escócia.
"Muitos dados que alimentam os sistemas também podemcarregar noções de realidade e preconceitos que existem nas sociedades. Se vocêusa o determinado tipo de dado sem olhar fatores como contexto histórico, porexemplo, a Inteligência Artificial acaba apenas perpetuando discriminações",acrescentou Mina Hanna, engenheiro da Iniciativa Global sobre Ética em SistemasAutônomos e Inteligentes.
Ele lembrou do caso do programa Compass, usado nos EstadosUnidos para estimar reincidências de condenados por crimes, que usavainformações como endereço de residência das pessoas e foi acusado dediscriminação contra negros. "Se quem criou o sistema não considera que já haviapreconceito na política habitacional de Wisconsin, este tipo de variável setorna muito ruim", explicou.
Transparência e confiança
Do ponto de vista das empresas, o desafio está em ganharconfiança das pessoas e destacar os aspectos positivos da AI. Para isso, atransparência sobre as decisões tomadas por sistemas automatizados precisaampliar. "Precisamos mostrar que o que está por trás disso são pessoas e sertransparentes é uma maneira de permitir confiança. Estamos abrindo nossosbancos de dados para pesquisas", afirmou Carolyn Nguyen, diretora de Políticasde Tecnologia da Microsoft.
Google e IBM são outros gigantes da Internet que tambémestão fazendo o mesmo e a medida tem sido bem recebida, como uma maneira depossibilitar que mais pessoas participem desse ecossistema. "Isso é central.Precisamos de um diálogo multissetorial para identificar prioridades para queessa tecnologia alcance seu potencial. Temos que aprender lições de outrossetores", analisou Nguyen. A implementação de princípios éticos e de direitoshumanos no desenvolvimento tecnológico de sistemas de IA também foi apontadacomo uma vantagem competitiva.
Representando o governo do Vaticano, Augusto Zampini-Daviesdeixou claro o quanto o diálogo multissetorial é necessário, mas está longe denão ser conflituoso. "Empresas que têm maior poder de análise precisam termaior responsabilidade pelo que está sendo gerado neste campo do que outras.Aquelas que estão investindo muito e se beneficiando muito desses sistemas,inclusive transformando ambientes em relação a empregos antes ocupados porpessoas, devem ser mais responsabilizadas", concluiu Zampini.
