IA generativa nas organizações: um novo paradigma na interação humanos-máquinas

Na medida em que a IA generativa entra no cotidiano das empresas, torna-se essencial a criação de políticas e diretrizes de uso responsável da tecnologia

Luis Quiles

8 de fevereiro de 2024

5 min de leitura

A partir de 2024, presenciaremos uma transformação significativa no paradigma da interação humanos-máquinas. Historicamente, desde os primórdios da computação, era imprescindível que eles aprendessem a linguagem das máquinas para se comunicar com elas. Com o avanço – a passos largos – da IA Generativa, essa realidade muda: são elas que passam a dominar e compreender a nossa linguagem.

Nesse contexto, cresce também o interesse sobre como os humanos utilizarão a IA para realizar uma série de tarefas e seu impacto sobre a produtividade no trabalho.

O Technology and Operations Management Group da Harvard Business School, em parceria com o Boston Consulting Group, realizou um estudo com 758 consultores de uma empresa, que foram divididos aleatoriamente em três grupos: sem acesso à IA, com acesso à IA GPT-4 e com acesso à IA GPT-4 e visão geral de engenharia de prompts. Ao se debruçar sobre 18 tarefas de consultoria realistas dentro da fronteira das capacidades da IA, os consultores dos grupos que tinham acesso à IA GPT-4 foram mais produtivos (em média, completaram 12,2% mais tarefas e 25,1% mais rápido) e produziram resultados significativamente de maior qualidade (acima de 40%, quando comparados ao grupo de controle).

Resultados como esses tendem a mudar profundamente a dinâmica de trabalho nas organizações, tornando as máquinas membros integrantes das equipes. Os humanos devem ter, cada vez mais, um papel fundamental na formulação de perguntas estratégicas e relevantes para as IAs generativas, além da responsabilidade de analisar criticamente e validar os resultados produzidos pelas soluções de IA.

Políticas e diretrizes para uso responsável da IA generativa

À medida que a IA entra no cotidiano das empresas, torna-se essencial a criação políticas e de diretrizes para o uso responsável da inteligência artificial generativa. Embora seus benefícios sejam consideráveis, os riscos inerentes ao uso demandam gestão atenta e devem prever os seguintes os seguintes aspectos:

Privacidade e proteção de dados

É fundamental estabelecer processos para avaliar e aprovar soluções, focando na localização do armazenamento de dados, medidas de proteção e controle de acesso aos dados corporativos. É recomendável também priorizar soluções pagas ou desenvolvidas sob medida, em detrimento das gratuitas, que podem utilizar dados para treinamento de futuras versões. Com estas últimas, sempre que possível, promova o intercâmbio de informações anonimizadas.

Supervisão e avaliação de riscos

Dada a possibilidade de a IA generativa produzir informações falsas ou imprecisas, é fundamental a supervisão humana e contínua para validar as saídas. Nas soluções generativas autônomas, implemente salvaguardas para assegurar a fidelidade das informações, realizar fases de validação rigorosas e estabelecer sistemas de monitoramento.

Transparência no uso da IA

Quando a IA generativa fizer parte das interações com clientes e usuários, informá-los do uso desse tipo de recurso faz parte do compromisso de transparência das organizações, além de ser uma boa prática para mitigar eventuais erros causados pela solução.

Respeito à propriedade intelectual

É imprescindível avaliar os modelos de IA e os dados utilizados para inspirar soluções, garantindo que não infrinjam direitos de propriedade intelectual. Provedores como Google, Microsoft e Adobe oferecem proteções legais contra possíveis reivindicações de terceiros, assumindo as consequências.

Desenvolvimento de competências e habilidades para o uso da IA generativa

Desenvolva trilhas de formação e incentive a formação contínua sobre IA generativa, a fim de que ela e outras ferramentas sejam utilizadas para aumentar a produtividade dos times e a qualidade das entregas e integradas de modo eficaz no fluxo de trabalho da organização.

Conformidade com regulamentações

O Brasil avança no processo de aprovação, no Senado, do Marco Regulatório da Inteligência Artificial. Este importante passo legislativo visa estabelecer um quadro normativo para orientar o desenvolvimento e a aplicação da IA no País. Em paralelo, é fundamental que as empresas adotem e integrem princípios ao criar IAs que sejam responsáveis e éticas em todas as fases dos seus projetos, desde a concepção até a etapa de manutenção contínua. Essa abordagem assegura que a utilização da IA não apenas esteja alinhada com as diretrizes legais como também promova práticas que respeitem a ética, a privacidade e os direitos humanos.

Devemos acelerar a adoção dessa tecnologia emergente ao mesmo tempo em que promovemos um equilíbrio entre a maximização dos benefícios da tecnologia e a mitigação dos riscos associados. Essa abordagem permitirá que todos possam explorar os potenciais da IA generativa de forma responsável e segura, garantindo a conformidade com as normativas vigentes e as melhores práticas.”