Os problemas do altruísmo eficaz vão além de Sam Bankman

Sam Bankman-Fried fez do altruísmo eficaz uma piada, mas sua filosofia de fazer o bem mascara uma cultura próspera de comportamento predatório.

Ellen Huet

Ilustração: Sophi Gullbrants para Bloomberg Businessweek

Benefício do Assinante

Se inscrever

Sonia Joseph tinha 14 anos quando leu pela primeira vez Harry Potter e os Métodos da Racionalidade, uma fanfic superpopular que reimagina o menino bruxo como um empirista rígido. Este Potter racional testa os feitiços de seus professores com o método científico, zomba de qualquer inconsistência que encontra e resolve todos os problemas da bruxa antes de completar 12 anos. "Adorei", diz Joseph, que leu HPMOR quatro vezes na adolescência. Ela era uma índio-americana neurodivergente e ambiciosa que se sentia deslocada em sua escola secundária no subúrbio de Massachusetts. A história, diz ela, "atrai muito pessoas de fora".

Uma busca por outros escritos do autor da fanfic, Eliezer Yudkowsky, abriu mais portas para Joseph. Desde o início dos anos 2000, Yudkowsky argumentou que a inteligência artificial hostil poderia destruir a humanidade em décadas. Essa crença motriz fez dele um padrinho intelectual em uma comunidade de pessoas que se autodenominam racionalistas e visam manter seu pensamento imparcial, mesmo quando as conclusões são assustadoras. O interesse crescente de Joseph pelo racionalismo também a atraiu para o altruísmo eficaz, uma filosofia moral relacionada que se tornou infame por sua associação com o ex-bilionário Sam Bankman-Fried. Em sua essência, o altruísmo eficaz enfatiza o uso do pensamento racional para causar um impacto positivo eficiente ao máximo no mundo. Esses grupos distintos, mas sobrepostos, desenvolveram-se em fóruns online, onde as postagens sobre os perigos da IA ​​se tornaram comuns. Mas eles também se agruparam na Bay Area, onde começaram a esboçar um campo de estudo chamado segurança de IA, um esforço para tornar as máquinas menos propensas a matar todos nós.