Como escolher uma carreira em tecnologia que beneficie a humanidade

Se você quer fazer uma diferença positiva no mundo, uma decisão se destaca acima de todas as outras: como você vai usar sua carreira?

  Como escolher uma carreira em tecnologia que beneficie a humanidade
[Foto: Akwice /Pexels]

As próximas décadas serão marcadas por inovações tecnológicas extraordinárias. Eles podem nos proporcionar enormes benefícios — ou nos levar à beira do desastre. O que acontece a seguir depende de sabermos como lidar com os riscos. Então, se você está buscando um impacto positivo em sua vida, uma das melhores coisas que você pode fazer é juntar-se ao esforço para garantir que as tecnologias mais poderosas que estamos construindo funcionem para o benefício de toda a humanidade.

Aqui está o porquê.

ok google mostre-me google maps

Avanços na biotecnologia, como edição de genes CRISPR e mRNA, podem dar aos pesquisadores o poder de combater doenças genéticas e doenças infecciosas , ou até mesmo ajudar erradicar os mosquitos transmissores da malária . Mas este mesmo progresso vertiginoso em nosso poder de manipular a biologia também torna significativamente mais fácil desencadear pandemias catastróficas , mesmo por acaso. Já é possível para os pesquisadores afinar e sintetizar vírus conhecido por ser perigoso. No momento, apenas algumas dezenas de cientistas confiáveis ​​são capazes de fazer isso. Mas à medida que os custos caem, essa capacidade pode se espalhar para milhares de pessoas. Se continuarmos construindo as ferramentas para fabricar pandemias antes de construirmos as ferramentas para nos defendermos contra elas, as consequências podem ser terríveis.

Os desenvolvimentos em IA não serão menos importantes. Os sistemas de IA já podem explicar piadas , recriar estilos artísticos , E use ' senso comum ” em todos os domínios. Em breve, eles poderão acelerar a descoberta de medicamentos e pesquisa em energia verde. Parece perfeitamente possível que esse tipo de progresso simplesmente não pare. Nesse caso, o estado da arte em IA superará as habilidades humanas não apenas em certas tarefas restritas, mas de maneira muito mais abrangente. A IA avançada pode então ser usada para consolidar a discriminação e capacitar ditadores de forma mais eficaz do que nunca – ou poderíamos simplesmente perder o controle desses sistemas completamente , assim como eles se tornam poderosos demais para serem contidos.

Estas são as duas tecnologias cujos riscos pensamos ter a maior combinação de escala , tratabilidade, e negligência . Previsores no Metaculus , uma plataforma de previsão da comunidade, colocam o risco de uma catástrofe que mata pelo menos 95% da população mundial até 2100 da biologia sintética em 1%. Para IA, esse número é de 6%. No entanto, quase ninguém está trabalhando nessas questões, e há muito que podemos fazer. Se pessoas mais dedicadas se unirem ao esforço de navegar com sabedoria e segurança pelos riscos, podemos garantir que trabalhem para o benefício de todos, agora e no futuro .

Mas o que isso significa para vocês ? Quais são as formas mais impactantes de ajudar?

Sua decisão mais importante

Se você quer fazer uma diferença positiva no mundo, uma decisão se destaca acima de todas as outras: como você usará sua carreira?

Considere as mudanças climáticas. Mudanças de comportamento fizeram uma diferença real: A reciclagem evita cerca de 0,15 toneladas de emissões de CO2 por ano, abandonar completamente a condução evita pouco mais de 2 toneladas. Mas há um limite para o bem que você pode fazer com mudanças simples como essa. Você não pode dirigir menos do que nunca , ou reciclar mais resíduos do que você produz. Por outro lado, doando $ 1000 para as melhores instituições de caridade focadas no clima parece evitar algo mais próximo de 100 toneladas de CO dois emissões: como a reciclagem há mais de 500 anos. Isso é um passo incrível. Mas, a menos que você seja extremamente rico, sua contribuição mais valiosa pode ser seu próprio tempo, trabalhando diretamente sobre as questões que lhe interessam. Afinal, são necessárias pessoas qualificadas e dedicadas para ajudar a transformar as doações de outras pessoas em mudanças reais, e as doações são úteis apenas na medida em que capacitam as pessoas a realizar essa mudança.

Isso é verdade de forma mais geral: sua carreira é provavelmente sua maior oportunidade de fazer a diferença . É verdade se você deseja trabalhar na direção de novas tecnologias para melhor ou em alguma outra tarefa urgente.

Em 2011, cofundamos uma organização sem fins lucrativos chamada 80.000 horas , que fornece aconselhamento gratuito para pessoas que querem fazer o bem em suas carreiras (nomeado após o tempo aproximado que você passará em sua vida profissional). A equipe do 80,00 Hours passou anos pesquisando a questão: se você quer usar sua carreira para trabalhar em um assunto profundamente importante, Como as você deve decidir o que fazer? Com base nessa pesquisa, sugerimos que você lide com três questões-chave. Cada pergunta nos diz algo sobre a melhor forma de influenciar positivamente os impactos da IA ​​e da biotecnologia.

Encontrar o problema certo para trabalhar

Primeiro: Quão urgente é o problema em que você deseja se concentrar ?

Em outras palavras, quanto impacto as pessoas podem ter ao escolher trabalhar nisso? Os problemas mais prementes do mundo combinam três fatores:

  1. Eles estão grande em escala (eles afetam significativamente um grande número de pessoas – resolvê-los seria um grande negócio)
  2. Eles estão negligenciado (não quase esforço suficiente foi gasto neles)
  3. Eles estão tratável (o progresso é possível com esforço extra)

Assuma os riscos da biotecnologia. Eles certamente são enormes em escala: o COVID-19 matou mais de um milhão de americanos e mais de vinte milhões de pessoas no exterior , mas as pandemias projetadas podem ser significativamente mais destrutivas.

No entanto, eles também são negligenciados: a humanidade está fazendo muito pouco para evitar a próxima pandemia, natural ou não. Os EUA aumentaram apenas modestamente seu investimento na preparação para pandemias, deixando um grande número de programas sem financiamento. Por exemplo, a Convenção de Armas Biológicas – a organização da ONU que monitora o desenvolvimento de armas biológicas perigosas – tem menos financiamento do que um típico McDonald's. Após o 11 de setembro, os EUA gastaram um trilhão de dólares em intervenções estrangeiras, criaram o Departamento de Segurança Interna e transformaram radicalmente sua política externa. O COVID-19 matou 100 muitas vezes mais pessoas e, no entanto, os EUA não fizeram quase nada em resposta. Enquanto isso, os analistas colocam o risco de uma pandemia que mata 95% da população global em um nível assustadoramente alto 1% Este século.

mapa de votos por concelho

E quanto ao risco de IA? Isto poderia ser um dos problemas mais importantes que enfrentaremos. Por exemplo, os sistemas de IA podem capacitar futuros regimes totalitários, aumentando o domínio dos ditadores sobre suas populações. Ou podemos perder o controle inteiramente para sistemas de IA que não compartilham nossos valores. Pelo menos de acordo com os próprios pesquisadores de IA (mesmo aqueles que não estão focados em reduzir os riscos), isso não é apenas especulação ociosa. Em um pesquisa recente de especialistas em aprendizado de máquina , o entrevistado mediano atribuiu uma probabilidade de 5% a um resultado em que a IA tenha um impacto tão terrível quanto a extinção humana.

Também é chocantemente negligenciado. Atualmente, para cada 100 ou mais pessoas pesquisando como aprimorar as capacidades da IA, há apenas uma pessoa pesquisando como evitar que a IA cause danos catastróficos.

Assim, quando voltamos atrás e consideramos quais questões parecem especialmente urgentes, tecnologias emergentes poderosas se destacam: elas têm o potencial de pôr em perigo nosso futuro como poucas outras coisas, mas seus riscos são extremamente subestimados.

Aproveitando ao máximo sua contribuição

Segundo: Como você pode causar um grande impacto no problema?

Algumas soluções para problemas importantes funcionam muito melhor do que outras abordagens bem intencionadas – e algumas abordagens podem até ser contraproducentes. Ao escolher a solução certa para focar, você pode 100x seu impacto.

Quais são as soluções mais promissoras para reduzir os riscos biológicos? Embora o campo seja relativamente novo, já conhecemos vários medidas concretas que pessoas dedicadas poderiam ajudar a expandir. Primeiro, precisamos vigilância contínua de surtos de patógenos emergentes , tais como o Observatório de Ácido Nucleico projeto que cresceu fora do MIT; visa sequenciar águas residuais para detectar novos patógenos em crescimento exponencial. Em segundo lugar, quando um novo surto é identificado, precisamos de grandes estoques de EPI de nível seguinte para permitir que trabalhadores essenciais mantenham a economia funcionando; além de testes de fluxo rápido adaptáveis ​​para rastrear o surto. Terceiro, precisamos manter a capacidade de produção de vacinas de mRNA e acelerar o processo de teste e implantação de novas vacinas para acabar com isso.

acesso do empregador ao telefone celular pessoal

Alternativamente, como você poderia ter um grande impacto no resultado da IA? Para garantir que o desenvolvimento de IA ocorra bem , precisamos de uma solução para o “problema de alinhamento” técnico – o problema de garantir que um sistema de IA funcione como pretendido, mesmo que se torne mais capaz do que nós. Também precisamos de progressos Governança de IA , como melhores propostas sobre se e como os sistemas de IA devem ser usados.

Encontrar uma carreira gratificante

Isso nos leva à terceira e última pergunta: qual é o seu ajuste pessoal com a carreira que você está considerando?

Sobre o clima, talvez você seja um excelente escritor e orador, mas nunca gostou de pesquisas científicas. Nesse caso, você provavelmente fará uma diferença maior trabalhando na política ou na política para promover a energia verde do que trabalhando em pesquisa e desenvolvimento de tecnologia limpa.

Olhando para a biotecnologia e a IA, existem muitos caminhos para o impacto, cada um se encaixando em conjuntos de habilidades muito diferentes. Alguns dos maiores desafios são altamente técnicos, como desenvolver tecnologias defensivas para pandemias ou apresentar novos insights sobre o problema de alinhamento.

como praticar zen budismo

Mas também precisamos de novas organizações para implementar as soluções mais promissoras e, para isso, precisamos de pessoas com habilidades em empreendedorismo, gestão, operações, contabilidade e captação de recursos. Também precisamos de construtores comunitários, para apoiar as pessoas que querem trabalhar em todos esses problemas. E precisamos de comunicadores para divulgar as soluções. Navegar pelas tecnologias mais importantes no horizonte é um esforço de equipe. Isso exigirá pessoas com toda uma gama de origens e pontos fortes.

Qual o proximo?

Em biossegurança e IA, e em muitos outros campos, precisamos que as pessoas usem suas carreiras para ajudar a humanidade a agir em conjunto.

Também há muitas outras opções para fazer o bem em sua carreira, incluindo muitas opções que não envolvem a criação de novas tecnologias. Por isso criamos 80.000 horas para ajudá-lo a descobrir qual carreira de alto impacto é melhor para você. É totalmente gratuito e representa milhares de horas de pesquisa sobre como você pode realmente fazer a diferença.

Você também pode apoiar as pessoas que trabalham nessas questões indiretamente, doando para organizações que fazem um bom trabalho na área. o Fundo de Longo Prazo é um lugar para começar.

Com um pensamento cuidadoso, as pessoas podem encontrar carreiras que sejam envolventes e satisfatórias, e lhes permitam ter um tremendo impacto positivo. Já vimos isso repetidas vezes. E as apostas são altas: nunca houve um momento melhor para encontrar a carreira de alto impacto na qual você irá prosperar.

William MacAskill é Professor Associado de Filosofia na Universidade de Oxford e Pesquisador Sênior no Global Priorities Institute. Ele é o autor de O que devemos ao futuro (Livros Básicos, agosto de 2022).

Ben Todd é o presidente e fundador da 80.000 Hours, uma organização sem fins lucrativos que realiza pesquisas sobre quais carreiras têm o maior impacto social positivo.