A Comissão Federal de Comércio dos EUA está tomando medidas contra diversas empresas que confiaram na inteligência artificial como forma de potencializar condutas enganosas ou injustas que prejudicam os consumidores, como parte de sua nova operação policial chamada Operação AI Comply.
Os casos anunciados nesta quarta-feira, 25, incluem ações contra uma empresa que promove uma ferramenta de IA que permitiu que seus clientes criassem avaliações falsas, uma empresa que alega vender serviços de "Advogado de IA" e diversas empresas que alegam que poderiam usar IA para ajudar os consumidores a ganhar dinheiro por meio de lojas online.
"Usar ferramentas de IA para enganar, iludir ou fraudar pessoas é ilegal", disse a presidente da FTC, Lina M. Khan. "As ações de execução da FTC deixam claro que não há isenção de IA das leis nos livros. Ao reprimir práticas injustas ou enganosas nesses mercados, a FTC está garantindo que empresas honestas e inovadoras possam ter uma chance justa e que os consumidores estejam sendo protegidos."
As alegações sobre inteligência artificial se tornaram mais prevalentes no mercado, incluindo promessas frequentes sobre as maneiras como ela poderia potencialmente melhorar a vida das pessoas por meio da automação e da resolução de problemas. Os casos incluídos nesta varredura mostram que as empresas aproveitaram o hype em torno da IA ??e estão usando-a para atrair consumidores para esquemas falsos, e também estão fornecendo ferramentas alimentadas por IA que podem turbinar o engano.
Não Pague
A FTC está tomando medidas contra a DoNotPay, uma empresa que alegou oferecer um serviço de IA que era "o primeiro advogado robô do mundo", mas o produto não correspondeu às suas alegações ambiciosas de que o serviço poderia substituir a experiência de um advogado humano.
De acordo com a reclamação da FTC, a DoNotPay prometeu que seu serviço permitiria que os consumidores "processassem por agressão sem um advogado" e "gerassem documentos legais perfeitamente válidos em pouco tempo", e que a empresa "substituiria a indústria jurídica de US$ 200 bilhões por inteligência artificial". A DoNotPay, no entanto, não conseguiu cumprir essas promessas. A reclamação alega que a empresa não conduziu testes para determinar se a saída de seu chatbot de IA era igual ao nível de um advogado humano, e que a própria empresa não contratou ou manteve nenhum advogado.
A reclamação também alega que o DoNotPay ofereceu um serviço que verificaria um site de pequena empresa em busca de centenas de violações de leis federais e estaduais com base apenas no endereço de e-mail do consumidor. Esse recurso supostamente detectaria violações legais que, se não fossem abordadas, potencialmente custariam a uma pequena empresa US$ 125.000 em taxas legais, mas, de acordo com a reclamação, esse serviço também não era eficaz.
A DoNotPay concordou com uma ordem proposta pela Comissão para resolver as acusações contra ela. O acordo exigiria que ela pagasse US$ 193.000, fornecesse um aviso aos consumidores que assinaram o serviço entre 2021 e 2023, alertando-os sobre as limitações dos recursos relacionados à lei no serviço. A ordem proposta também proibirá a empresa de fazer alegações sobre sua capacidade de substituir qualquer serviço profissional sem evidências para sustentá-la.
Ascend Ecom
A FTC entrou com uma ação judicial contra um esquema de oportunidade de negócios online que alega ter falsamente afirmado que suas ferramentas de ponta alimentadas por IA ajudariam os consumidores a ganhar rapidamente milhares de dólares por mês em renda passiva abrindo lojas online. De acordo com a reclamação, o esquema fraudou os consumidores em pelo menos US$ 25 milhões.
O esquema é administrado por William Basta e Kenneth Leung e tem operado sob vários nomes diferentes desde 2021, incluindo Ascend Ecom, Ascend Ecommerce, Ascend CapVentures, ACV Partners, ACV, Accelerated eCom Ventures, Ethix Capital by Ascend e ACV Nexus.
De acordo com a reclamação da FTC, os operadores do esquema cobram dos consumidores dezenas de milhares de dólares para abrir lojas online em plataformas de comércio eletrônico como Amazon, Walmart, Etsy e TikTok, ao mesmo tempo em que exigem que eles gastem dezenas de milhares a mais em estoque. O conteúdo publicitário da Ascend alegava que a empresa era líder em comércio eletrônico, usando software proprietário e inteligência artificial para maximizar o sucesso comercial dos clientes.
A reclamação observa que, embora a Ascend prometa aos consumidores que criará lojas produzindo renda mensal de cinco dígitos no segundo ano, para quase todos os consumidores, os ganhos prometidos nunca se materializam, e os consumidores ficam com contas bancárias esvaziadas e contas de cartão de crédito pesadas. A reclamação alega que a Ascend recebeu inúmeras reclamações de consumidores, pressionou os consumidores a modificar ou excluir avaliações negativas da Ascend, frequentemente deixou de honrar sua "recompra garantida" e ameaçou ilegalmente reter a suposta "recompra garantida" para aqueles que deixaram avaliações negativas da empresa online.
Como resultado da reclamação da FTC, um tribunal federal emitiu uma ordem suspendendo temporariamente o esquema e colocando-o sob o controle de um recebedor. O caso da FTC contra o esquema está em andamento e será decidido por um tribunal federal. A queixa foi registrada no Tribunal Distrital dos EUA para o Distrito Central da Califórnia.
Construtores de impérios de comércio eletrônico
A FTC acusou um esquema de oportunidade de negócios de falsamente alegar ajudar os consumidores a construir um "Império de E-commerce alimentado por IA" participando de seus programas de treinamento que podem custar quase US$ 2.000 ou comprando uma loja virtual "pronta para você" por dezenas de milhares de dólares. O esquema, conhecido como Ecommerce Empire Builders (EEB), alega que os consumidores podem potencialmente ganhar milhões de dólares, mas a reclamação da FTC alega que esses lucros não se materializam.
A queixa alega que o CEO da EEB, Peter Prusinowski, usou dinheiro de consumidores — até US$ 35.000 de consumidores que compram em lojas — para enriquecer a si mesmo, ao mesmo tempo em que não cumpriu as promessas do esquema de grandes rendas vendendo produtos online. Em seu marketing, a EEB incentiva os consumidores a "Evitar as suposições e começar um negócio de um milhão de dólares hoje", proveitando o "poder da inteligência artificial" e as supostas estratégias do esquema.
Em anúncios de mídia social, a EEB alega que seus clientes podem ganhar $ 10.000 mensais, mas a reclamação da FTC alega que a empresa não tem evidências para respaldar essas alegações. Vários consumidores reclamaram que as lojas que compraram da EEB ganharam pouco ou nenhum dinheiro, e que a empresa resistiu a fornecer reembolsos aos consumidores, negando reembolsos ou fornecendo apenas reembolsos parciais.
Como resultado da reclamação da FTC, um tribunal federal emitiu uma ordem suspendendo temporariamente o esquema e colocando-o sob o controle de um recebedor. O caso da FTC contra o esquema está em andamento e será decidido por um tribunal federal. A queixa foi registrada no Tribunal Distrital dos EUA para o Distrito Leste da Pensilvânia.
Rytr
Desde abril de 2021, a Rytr comercializa e vende um serviço de "assistente de escrita" de IA para uma série de usos, um dos quais era especificamente a geração de "Testemunhos e Críticas". Assinantes pagos podiam gerar um número ilimitado de avaliações detalhadas de consumidores com base em informações muito limitadas e genéricas.
De acordo com a reclamação da FTC, o serviço da Rytr gerou avaliações detalhadas que continham detalhes específicos, muitas vezes materiais, que não tinham relação com a entrada do usuário, e essas avaliações quase certamente seriam falsas para os usuários que as copiaram e as publicaram online. Em muitos casos, as avaliações geradas por IA dos assinantes apresentavam informações que enganariam os consumidores em potencial que estavam usando as avaliações para tomar decisões de compra. A reclamação alega ainda que pelo menos alguns dos assinantes da Rytr usaram o serviço para produzir centenas, e em alguns casos dezenas de milhares, de avaliações potencialmente contendo informações falsas.
A queixa acusa a Rytr de violar o FTC Act ao fornecer aos assinantes os meios para gerar conteúdo escrito falso e enganoso para avaliações de consumidores. A queixa também alega que a Rytr se envolveu em uma prática comercial desleal ao oferecer um serviço que provavelmente poluirá o mercado com uma abundância de avaliações falsas que prejudicariam tanto os consumidores quanto os concorrentes honestos.
A ordem proposta para resolver a reclamação da Comissão foi elaborada para impedir que a Rytr se envolva em conduta ilegal semelhante no futuro. Ela impediria a empresa de anunciar, promover, comercializar ou vender qualquer serviço dedicado a – ou promovido como – gerar avaliações ou depoimentos de consumidores.
Máquina FBA
Em junho, a FTC tomou medidas contra um esquema de oportunidade de negócios que supostamente prometia falsamente aos consumidores que eles teriam renda garantida por meio de lojas online que utilizavam software alimentado por IA. De acordo com a FTC, o esquema, que operou sob os nomes Passive Scaling e FBA Machine, custou aos consumidores mais de US$ 15,9 milhões com base em alegações enganosas de ganhos que raramente, ou nunca, se materializam.
A reclamação alega que Bratislav Rozenfeld (também conhecido como Steven Rozenfeld e Steven Rozen) opera o esquema desde 2021, inicialmente como Passive Scaling. Quando o Passive Scaling não cumpriu suas promessas e os consumidores buscaram reembolsos e entraram com ações judiciais, Rozenfeld renomeou o esquema como FBA Machine em 2023. Os materiais de marketing renomeados alegam que a FBA Machine usa ferramentas "alimentadas por IA" para ajudar a precificar produtos nas lojas e maximizar os lucros.
As alegações do esquema eram abrangentes, prometendo aos consumidores que eles poderiam operar um "negócio de 7 dígitos" e citando supostos depoimentos de clientes que "geram mais de US$ 100.000 por mês em lucro". Os agentes de vendas da empresa disseram aos consumidores que o negócio era "sem risco" e falsamente garantiam reembolsos aos consumidores que não recuperassem seus investimentos iniciais, que variavam de dezenas de milhares a centenas de milhares de dólares.
Como resultado da reclamação da FTC, um tribunal federal emitiu uma ordem suspendendo temporariamente o esquema e colocando-o sob o controle de um recebedor. O caso contra o esquema ainda está em andamento e será decidido por um tribunal federal. A queixa foi registrada no Tribunal Distrital dos EUA para o Distrito de Nova Jersey.
Os casos da Operação AI Comply anunciados nesta quarta-feira, 25, se baseiam em uma série de casos recentes da FTC envolvendo alegações sobre inteligência artificial, incluindo: Automators , outro esquema de loja virtual; Career Step , uma empresa que supostamente usou tecnologia de IA para convencer consumidores a se inscreverem em treinamento profissional falso; NGL Labs , uma empresa que supostamente alegou usar IA para fornecer moderação em um aplicativo de mensagens anônimas que comercializou ilegalmente para crianças; Rite Aid , que supostamente usou tecnologia de reconhecimento facial de IA em suas lojas sem salvaguardas razoáveis; e CRI Genetics , uma empresa que supostamente enganou usuários sobre a precisão de seus relatórios de DNA, incluindo alegações de que usou um algoritmo de IA para conduzir correspondência genética.
