Ex-funcionário critica OpenAI e alerta sobre segurança da IA
Foto: Brasil (cnnbrasil.com.br)
por Redação Rondônia Hoje
Publicado em
David Robinson, ex-funcionário da área de segurança da OpenAI, anunciou sua demissão e criticou a abordagem da empresa em relação à segurança da inteligência artificial (IA). Em um artigo publicado no Atlantic, intitulado “Deixei a OpenAI porque sua cultura está falida”, Robinson destacou que a cultura acelerada da empresa, que prioriza o desenvolvimento rápido, gera um aumento no risco de falhas.
Robinson afirmou que as empresas de IA, incluindo a OpenAI, não estão sendo suficientemente cuidadosas e argumentou que deveriam priorizar a expertise em segurança e a pesquisa antes de lançar sistemas mais avançados. Segundo ele, “o tempo de tentativa e erro acabou”, defendendo que os sistemas de IA requerem salvaguardas mais rigorosas, semelhantes às utilizadas nos setores de energia nuclear e aviação.
O ex-funcionário, que trabalhou na OpenAI por três anos e meio, ajudou a desenvolver a estrutura de preparação da empresa e supervisionou os relatórios de segurança de 12 lançamentos de modelos de ponta. Robinson criticou a dependência da OpenAI em um processo de “implantação iterativa”, onde sistemas são lançados e as medidas de segurança são reforçadas apenas após a identificação de problemas.
As declarações de Robinson se inserem em um debate mais amplo na indústria de IA sobre a velocidade do desenvolvimento de sistemas poderosos. A OpenAI e a Anthropic, concorrente da empresa, têm enfrentado críticas após incidentes em que controles de segurança falharam ou sistemas experimentais agiram de maneira inesperada.
Em resposta às críticas, um porta-voz da OpenAI afirmou que a empresa está comprometida em garantir que seus modelos não se tornem mais capazes do que podem gerenciar e proteger de forma segura. O porta-voz também mencionou que a empresa pausa o treinamento ou suspende o desenvolvimento de modelos sempre que necessário para diminuir o ritmo.
Robinson também expressou preocupação com o fato de que as capacidades da IA estão avançando mais rapidamente do que a compreensão dos pesquisadores sobre alinhamento, um campo que visa garantir que os sistemas ajam de acordo com os objetivos e valores humanos.
Com informações de Brasil.
