Chegamos a um ponto onde a IA Generativa se tornou capaz o suficiente para ter outputs convincentes, e, eu sinto que a maioria das pessoas não entende o peso e a importância disso, é um ponto de virada na história da tecnologia tão grande quanto a invenção da internet, alguns até chamam de uma nova revolução industrial, e eu odeio isso, demais.
Vai, pode ir, me chame de ludita o quanto quiser, talvez você até esteja certo, mas, não é possível que só eu esteja vendo as coisas ruins que estão surgindo como resultado de chatbots modernos e plataformas de difusão de imagens. Vamos por partes.
Primeiramente, os chatbots de IA responsáveis puramente por output em texto, como o Character.AI e o ChatGPT já se demonstram capazes de resolver problemas símples e imitar personagens fictícios, desde que sejam dados Input preciso o suficiente, só isso já traz alguns problemas, a primeira que me vem em mente é a implicação negativa que isso tem pra educação. Tenho colegas de classe que não escreveram um único texto ou redação durante o ano inteiro, só pediram pro ChatGPT fazer e ainda receberam uma nota aceitável. Mas isso não é o que eu quero falar sobre, e sim o sucateamento das redes sociais e a criação desenfreada de bots se passando por pessoas nas redes sociais, principalmente o Twitter.
Olhando com hindsight, a coisa mais estúpida que o Elon Musk disse em sua lista infinita de coisas estúpidas que ele fez é com certeza a promessa dele de solucionar o problema de bots no Twitter, na verdade ele triplicou o problema.
Talvez seja só timing ruim que coincidiu com o lançamento do GPT-4, mas é só digitar alguma das palavras chave a seguir que você vai entender do que eu estou falando: "IPTV", "Metamask", "Can't log in", "eth", "account got hacked", entre muitos, muitos outros.
Parece que as primeiras vítimas da Teoria da Internet morta vão ser os image boards e o twitter, tudo que você precisa é de input de treinamento e poder de computação o suficiente para ter uma horda de bots customizados com a capacidade de infestar qualquer mídia social em pouco tempo. Já aconteceu com o /pol/, e está acontecendo com o Twitter agora mesmo, só olhar pros comentários de uma postagem popular ou pra conta @DeadTheory__, que compila algumas postagens de bots.
Minha pergunta que fica é: Quem está fazendo isso? e porque? algo que é possível notar no Twitter é que todas essas contas, senão a maioria delas tem uma assinatura do twitter-blue ativa, seria isso uma maneira de inflar artificialmente os números do twitter pra satisfazer o ego de seu dono? Quem sabe.
Eu poderia tocar no ninho de vespas que é a criação de imagens com IA generativa, como o Stable Diffusion ou as versões mais avançadas do DALL-E, mas eu acho que vou evitar fazer isso dessa vez. Pra mim isso é mil vezes pior do que qualquer chatbot de texto poderia ser, além do óbvio roubo e uso sem autorização de imagens de artistas, fotógrafos e basicamente toda pessoa alheia que já postou uma foto na internet, o uso de versões "jailbroken" desses programas mostra que eles tem a capacidade de gerar literalmente TUDO, incluíndo imagens de cunho criminoso.
Além disso, sites como o pixiv, artstation e deviantart se tornaram inutilizáveis por um certo período de tempo, até que essas plataformas adicionassem um filtro ou check que oculta essas imagens caso o usuário queira. Eu achei isso bem tosco, uma solução "band-aid" pra um problema bem maior, a maioria dos artistas quer a proibição disso, não uma maneira de só ignorá-las.
Eu acho que a IA vai continuar causando esses tipos de problemas até que ela seja devidamente regulada, minha preocupação é que isso vai demorar bastante pra acontecer, pelo menos enquanto as pessoas no poder continuem sendo idosos com o pé na cova que acham que a internet ainda envolve só o orkut e o bate-papo do UOL... Leis envolvendo a IA deviam ser criadas ASAP, antes que isso fuja de controle e pessoas maliciosas comecem a usar essa ferramenta pra coisas ruins, apesar disso estar acontecendo literalmente agora, e ninguém parece se importar com isso...
Se eu fosse falar sobre todas as coisas ruins possívelmente causadas por uma IA completamente capaz no futuro, eu ia ficar aqui por horas, parece que as pessoas por trás desses programas viraram cientistas malucos sem nenhum senso do que não devia ser feito pelo bem da humanidade, e começaram a prezar apenas o avanço científico. Eu espero que haja um "gentlemen's agreement" entre cientistas, que nem houve com a tecnologia da clonagem, que aparenta ter toda a capacidade de clonar uma pessoa por completo, mas nunca o fez, simplesmente por motivos morais e éticos.
Ética. Era essa a palavra que eu estava procurando.
Obrigado por ler.
Nenhum comentário:
Postar um comentário