O que acontece quando o software que todos estão correndo para adotar se torna arriscado demais para ser segurado por alguém? De acordo com reportagens do Financial Times, estamos prestes a descobrir.
As principais seguradoras, incluindo AIG, Great American e WR Berkley, estão pedindo permissão aos reguladores dos EUA para excluir responsabilidades relacionadas à IA das políticas corporativas. Um subscritor descreve os resultados dos modelos de IA para o FT como “uma caixa preta demais”.
A indústria tem bons motivos para estar assustada, lembra-nos a história. A Visão Geral de IA do Google acusou falsamente uma empresa de energia solar de problemas legais, desencadeando um processo de US$ 110 milhões em março. A Air Canada no ano passado não conseguiu honrar um desconto que seu chatbot inventou. E os fraudadores usaram no ano passado uma versão digitalmente clonada de um executivo sênior para roubar US$ 25 milhões da empresa de engenharia de design Arup, com sede em Londres, durante uma videochamada que parecia inteiramente real.
O que realmente aterroriza as seguradoras não é um pagamento massivo; é o risco sistêmico de milhares de reclamações simultâneas quando um modelo de IA amplamente utilizado intervém. Como disse um executivo da Aon, as seguradoras podem lidar com uma perda de US$ 400 milhões para uma empresa. O que eles não conseguem lidar é um acidente de IA que provoca 10.000 perdas de uma só vez.
