Um experimento realizado nos Estados Unidos colocou em evidência uma nova dimensão do uso da inteligência artificial no mercado de trabalho: a participação de sistemas autônomos em decisões com consequências diretas sobre funcionários. A agente de IA Luna, criada pela Andon Labs para administrar uma loja física em São Francisco, recomendou o desligamento de um trabalhador após analisar seu histórico de atrasos e uma política de frequência estabelecida durante a própria operação.
O caso foi divulgado pela própria empresa na última segunda-feira (17). Luna recebeu um orçamento de US$ 100 mil, um cartão corporativo, acesso à internet e autonomia para participar da administração da Andon Market, incluindo a seleção de produtos, a contratação de prestadores e de funcionários, e a gestão da operação. A agente funciona com modelos Claude, da Anthropic, e integra um experimento voltado a avaliar até onde sistemas de IA conseguem administrar um negócio físico.
Atrasos não justificados
Segundo as informações divulgadas sobre o experimento, o funcionário chegou atrasado 17 vezes em 23 turnos. A própria Luna havia estabelecido uma política segundo a qual três atrasos não justificados em um período de 30 dias poderiam resultar em advertência formal e, em caso de reincidência, demissão. Apesar disso, a agente não aplicou imediatamente a regra. Depois que integrantes da Andon Labs chamaram sua atenção para a política, Luna reavaliou o histórico e recomendou o desligamento. A execução e a responsabilidade legal permaneceram sob controle humano.
Para Fábio Tiepolo, CEO da StaryaAI, o episódio mostra por que a capacidade técnica de um agente para executar determinada tarefa não deve ser confundida com autorização para decidir sozinho. Decisões de alto impacto sobre pessoas, com consequências relevantes ou baixa possibilidade de reversão, precisam manter uma instância humana responsável. “A IA pode organizar dados, identificar padrões, verificar regras, apontar inconsistências e recomendar caminhos. Mas a decisão final precisa continuar vinculada a uma pessoa ou instância humana responsável”, afirma.
Risco de cada ação
Segundo o executivo, contratação, desligamento e punições disciplinares estão entre as decisões que não deveriam ser integralmente delegadas a agentes de inteligência artificial. A autonomia, nesse contexto, deve ser determinada pelo risco de cada ação. Tarefas estruturadas, de baixo impacto e facilmente reversíveis podem ter maior grau de automação. Já decisões que envolvam pessoas, dados sensíveis, valores financeiros relevantes ou responsabilidades regulatórias exigem mecanismos de aprovação humana. “A pergunta correta não é ‘a IA consegue fazer?’, mas ‘qual é o risco se ela fizer errado e conseguimos reverter esse resultado?’”, diz.
O episódio também expõe outro desafio dos agentes autônomos: manter coerência durante operações prolongadas. No experimento, Luna demonstrou dificuldades relacionadas à memória, ao planejamento e à gestão de pessoas. A inconsistência entre a política de frequência criada pela própria agente e sua aplicação mostra que uma decisão automatizada não depende apenas da capacidade de analisar corretamente uma situação isolada, mas também de preservar contexto, regras e histórico ao longo do tempo.
IA e trabalho: o que diz a lei brasileira
No Brasil, o uso de inteligência artificial em decisões relacionadas a trabalhadores encontra limites no Direito do Trabalho e na legislação de proteção de dados. Rafael Galle, advogado especialista em Direito Trabalhista e sócio-fundador do GMP G&C Advogados Associados, explica que não há atualmente uma norma trabalhista que proíba expressamente a utilização de IA como ferramenta de apoio a uma decisão de dispensa.
O poder diretivo previsto no artigo 2º da Consolidação das Leis do Trabalho (CLT) permite que empregadores utilizem ferramentas tecnológicas na organização do trabalho. Na dispensa sem justa causa, em regra, a empresa também não precisa apresentar justificativa para o desligamento. Isso, porém, não transfere ao algoritmo a responsabilidade pela decisão. “Não existe, no ordenamento jurídico trabalhista brasileiro, a possibilidade de a IA ser responsabilizada por decisões tomadas a partir de suas sugestões. Ela é uma ferramenta, não um sujeito de direitos e obrigações”, esclarece o advogado.
Outro ponto de atenção é o risco de discriminação. Algoritmos treinados com dados históricos podem reproduzir padrões existentes dentro das próprias organizações, inclusive aqueles que carregam distorções ou vieses. “Um sistema treinado com dados históricos de contratação, promoção ou desligamento aprende os padrões que já existiam na empresa, inclusive os discriminatórios”, alerta Galle.
SBT News
LEIA TAMBÉM: Mutirão da Aprendizagem oferece oportunidades de trabalho e qualificação profissional para jovens no RN
