O ganho de Turing -Yoshua Bengio está lançando um laboratório de segurança de IA sem fins lucrativos chamado LawZero para construir sistemas de IA mais seguros, disse ele ao Financial Times na segunda -feira.
Lawzero obteve US $ 30 milhões em contribuições filantrópicas do engenheiro de design do Skype, Jaan Tallinn, ex -chef Eric Schmidt, filantropia aberta e o Future of Life Institute, entre outros. O nome LawZero é um aceno para um conceito de ficção científica: a Lei Zeroth da Robótica, que coloca a proteção da humanidade acima de tudo.
O Bengio, considerado um dos “padrinhos” da árvore da IA moderna, tornou -se um dos proponentes mais vocais do movimento de segurança da IA. Ele apoiou publicamente o SB-1047, a controversa conta de segurança da IA da Califórnia, que visava impedir os sistemas de IA que causavam cenários catastróficos.
Em uma entrevista ao Financial Times, Bengio disse que tinha pouca confiança no Openai e no Google para priorizar a segurança enquanto competia por sistemas de IA mais inteligentes.
