A OpenAI divulgou seis relatórios sobre falhas em seus sistemas e afirmou que nenhum dos casos teve consequências significativas. Segundo a empresa, os episódios confirmam tendências já observadas no comportamento de modelos de inteligência artificial.
Um dos relatos descreve um episódio ocorrido em maio, durante a fase de desenvolvimento. Para responder a uma pergunta, um modelo criou uma fonte na internet e citou o próprio documento que havia produzido.
A empresa também anunciou que passará a comunicar problemas associados a ações realizadas por uma IA sem autorização, à saída do ambiente de supervisão e à coordenação espontânea entre sistemas. O acompanhamento será feito em todas as etapas do ciclo de vida da tecnologia, do desenvolvimento à implantação, incluindo avaliação e testes.
O compromisso de transparência foi apresentado após incidentes internos relatados desde julho. Os chamados desalinhamentos da IA ocorrem quando os modelos não se comportam da maneira desejada.
No documento divulgado na quarta-feira (16), a OpenAI afirmou: “A indústria não resolveu a questão do alinhamento [dos modelos com os valores humanos] e da supervisão em um nível suficiente”. A empresa acrescentou que esse cenário limita o desenvolvimento da IA em alta velocidade por muito mais tempo.
