Do abstrato ao concreto : uma ferramenta para implementação de requisitos éticos em inteligência artificial através de histórias de usuário

Abstract

Contexto: Nos últimos anos, o campo da inteligência artificial passou por um processo de expansão notável, tanto na academia como na indústria. Este crescimento pode ser observado de várias formas, incluindo o desenvolvimento de tecnologias mais complexas, o aumento do investimento, uma maior atenção dos meios de comunicação social e a expansão das suas áreas de aplicação. No entanto, este avanço deu origem a questões éticas que estão sendo uma questão de crescente preocupação social, como o enviesamento de sistemas, aplicações danosas, entre outros. Objetivo: Este trabalho tem como objetivo identificar uma visão geral do estado atual das soluções práticas para o desenvolvimento ético de sistemas baseados em IA em todas as fases do ciclo de vida de um sistema de software, e com isso, desenvolver uma ferramenta que operacionalize a tradução de requisitos éticos de alto nível em histórias de usuário éticas. Método: Para atingir este objetivo, este estudo baseou-se na metodologia Design Science Research, que produziu três resultados até ao momento. Inicialmente, na fase de consciência do problema, foi atualizada a revisão sistemática da literatura desenvolvida por Cerqueira. Posteriormente, na fase de sugestão, a ferramenta proposta foi formulada como um sistema que traduz requisitos éticos em histórias de usuário éticas. Finalmente, na fase de desenvolvimento, foi implementada a primeira versão da ferramenta, juntamente com a sua validação. Resultados: No total foram identificados 38 estudos primários. Dentre estes estudos, a maior parte (63%) propõe uma solução prática para facilitar a aplicação de ética em IA, mas ainda existe uma lacuna entre teoria e prática no que se diz sobre ética em IA. Além disso, foi também compilada uma lista com 26 dos principais princípios éticos que foram discutidos na literatura. Foi também desenvolvida a ferramenta Requirements to US, que utiliza histórias de usuário, princípios éticos em IA e modelos de LLMs para promover a integração da ética em IA durante a fase de Engenharia de Requisitos. Conclusão: Os resultados do processo de treino, teste e validação do sistema demonstram o seu potencial como uma ferramenta valiosa para a integração de ética em IA no desenvolvimento de software. Os resultados indicam que a ferramenta apoia a integração de aspectos teóricos e práticos, oferecendo uma solução promissora para uma lacuna existente na atual oferta de aplicações práticas.