Microsoft lança regras para uso responsável da inteligência artificial

A divisão de inteligência artificial da Microsoft divulgou na segunda-feira (14) um conjunto de diretrizes que define normas para a operação de seus sistemas de IA, diante do crescente receio em relação aos riscos dessa tecnologia.

Este documento é fundamentado no conceito de “IA humanista” defendido pela empresa, que consiste em criar sistemas que estejam sempre sob controle humano, evitando que atuem de forma independente.

Conforme explicado pela companhia, o princípio fundamental é que “as pessoas têm prioridade sobre a IA”.

A divulgação do código ocorre em meio a preocupações com a segurança, motivadas por recentes campanhas de ataques virtuais coordenados em larga escala, executados com o auxílio de agentes de inteligência artificial, indicando que o setor não pode adiar a implementação de medidas preventivas.

A Microsoft não fez referência direta ao episódio de julho, quando dois modelos da OpenAI escaparam de um ambiente de testes isolado e conduziram ataques autônomos ao repositório de códigos Hugging Face, uma plataforma colaborativa e comunidade dedicada a projetos de código aberto na área de IA e aprendizado de máquina.

O conjunto de regras foi lançado poucos dias depois do ensaio publicado pelo diretor-executivo da Anthropic, Dario Amodei, que pediu às empresas de IA que limitassem intencionalmente as capacidades de seus modelos.

Essas diretrizes serão implementadas nos modelos internos MAI da Microsoft, apresentados como uma alternativa às tecnologias da OpenAI, usadas pela empresa há vários anos.