A ascensão da Inteligência Artificial (IA) inegavelmente transformou nosso mundo, tornando-se uma ferramenta indispensável em vários campos, incluindo o desenvolvimento de software. Embora a IA ofereça inúmeros benefícios e se tenha tornado parte integrante das práticas modernas de desenvolvimento, é crucial considerar as potenciais ramificações do seu uso excessivo, particularmente para os desenvolvedores.
Esta peça mergulha nas minhas reflexões filosóficas sobre o desenvolvimento e a IA, explorando o profundo impacto que a crescente presença da IA poderia ter na paisagem dos desenvolvedores.
O Fascínio da IA
Deveríamos ver a IA como uma força malévola que ameaça os nossos meios de subsistência? Eu acho que não.
Desde o surgimento do ChatGPT 3.0, tenho acompanhado de perto artigos relacionados com a IA há mais de três anos. Este interesse sustentado decorre da rápida evolução do campo, com novos desenvolvimentos e notícias a surgirem diariamente.
É concebível que a IA possa dominar os Prémios Nobel no futuro, e o mundo já está cativado pelas capacidades do ChatGPT.
A IA está a progredir exponencialmente, aparentemente à beira de alcançar a Inteligência Artificial Geral (IAG). Embora os Grandes Modelos de Linguagem (LLMs) estejam atualmente a liderar os avanços da IA, a ascensão da IA generativa segue um padrão observado em avanços anteriores na aprendizagem de máquina (ML) e na aprendizagem profunda (DL), que demonstraram um imenso potencial no processamento de imagem e vídeo.
Antes disso, a adoção generalizada da internet inaugurou a Era da Informação.
Antes disso, a proliferação de máquinas desencadeou a Revolução Industrial.
E muito antes disso, a introdução de ferramentas levou à Revolução Agrícola.
É essencial examinar criticamente se estas transições foram perfeitas e universalmente benéficas.
(Nota: As referências subsequentes à IA referir-se-ão especificamente à IA generativa alimentada por LLM.)
Ecos da Revolução Industrial
Que legado nos deixou a Revolução Industrial?
Produção acelerada de bens manufaturados inovadores, melhores condições de trabalho e imensa riqueza.
Estes estão entre os muitos benefícios que desfrutamos hoje graças à Revolução Industrial. Mas será que as pessoas que viveram nessa época partilharam estes benefícios?
O Lado Negro do Progresso
Será que as condições de trabalho melhoraram imediatamente com a introdução das máquinas?
Em muitos casos, as tarefas que antes exigiam uma força física significativa foram simplificadas em operações básicas de máquinas, levando à substituição de trabalhadores adultos por crianças. As fábricas começaram a operar 24 horas por dia para maximizar a eficiência, e a riqueza resultante concentrou-se desproporcionalmente nas mãos dos proprietários das fábricas (a burguesia). Será que os trabalhadores aceitaram passivamente esta situação? Não. Isto deu origem ao movimento Ludita.
Apesar destes desafios, acreditamos que a introdução das máquinas acabou por transformar a vida das pessoas para melhor?
Eu argumentaria que a resposta é ‘sim’. As mudanças têm sido esmagadoramente positivas.
Espere, pintou um quadro negativo da Revolução Industrial, então porque é que de repente está a dizer que foi positiva?
Embora as nossas vidas tenham inegavelmente melhorado, muitos dos problemas associados à Revolução Industrial decorreram de uma falha em antecipar e mitigar as perturbações sociais causadas pela rápida introdução das máquinas. Se uma rede de segurança social tivesse existido, menos pessoas teriam sofrido, e as consequências negativas teriam sido minimizadas.
Ok, mas o que é que tudo isto tem a ver com a IA?
IA: A Segunda Revolução Industrial
O antigo Presidente dos EUA, Donald Trump, anunciou planos para investir 700 biliões de won em empresas de IA como a SoftBank e a OpenAI.
Os LLMs exigem quantidades substanciais de energia. As empresas que geram esta energia estão a crescer constantemente, e a Nvidia, que desenvolve chips de IA para computação, atingiu a maior capitalização de mercado do mundo.
Onde é que estas empresas vão investir? Naturalmente, vão investir onde puderem ganhar dinheiro.
E onde é que o mundo está atualmente a investir? Em IA.
A Rentabilidade da IA
Mas de onde virá a rentabilidade da IA?
A IA não produz produtos. A IA não gere fábricas.
No entanto, a IA pode potencialmente reduzir os custos de mão de obra para as empresas, automatizando tarefas que são atualmente realizadas por humanos.
De uma perspetiva económica, qual é o custo de um único empregado? Assumindo uma duração média de carreira de 30 anos (dos 30 aos 60 anos) e um salário anual médio de 45 milhões de won, uma empresa pagará a um único empregado 1,35 mil milhões de won ao longo da sua carreira.
Por outras palavras, uma empresa está a ‘comprar’ um único empregado por 1,35 mil milhões de won. Uma empresa com mais de 300 empregados gastaria 400 mil milhões de won em mão de obra ao longo de 30 anos.
Ainda acredita que a IA não é rentável? Ainda não consegue ver porque é que o mundo está a investir em IA?
As reduções de força de trabalho impulsionadas pela IA gerarão lucros significativos para as empresas. Este é o alfa e o ómega do investimento em IA.
As Limitações da IA
A IA não garante 100% de sucesso ou 100% de falha.
Uma vez demonstrei um modelo de aprendizagem profunda para detetar condução sonolenta. Embora o modelo acabasse por classificar certas situações como ‘condução sonolenta’, nós, como desenvolvedores, definimo-lo como ‘uma alta probabilidade de condução sonolenta’.
Deixe-me reiterar: a IA não oferece garantias de sucesso ou falha absolutos.
As alucinações são um conceito semelhante. Porque os modelos fazem inferências, podem gerar respostas incorretas. Esta é tanto uma potencial via para o desenvolvimento da IA como uma desvantagem.
Se o modelo me identificar incorretamente como sonolento enquanto eu não estou, quem é o responsável?
A responsabilidade cabe a nós, a equipa que definiu os critérios do modelo.
A IA não assume responsabilidade. Nós somos quem toma decisões com base nas respostas fornecidas pela IA.
E então? O que devemos fazer agora? Isto significa que a IA vai roubar os nossos empregos?
Abordando a IA
Sim, isso mesmo. A IA vai roubar os nossos empregos.
O mundo está a competir ferozmente para usar a IA para roubar os nossos empregos.
Acredito que isto é inevitável, e que uma ‘Segunda Revolução Industrial’ está no horizonte.
O que devemos fazer para garantir uma transição suave?
Precisamos de estar interessados na IA, usá-la e manter uma perspetiva positiva e crítica.
Muitas pessoas podem ficar desiludidas com a vida depois de considerarem seriamente esta informação. Eu sei que fiquei.
Porque é que me devo preocupar em desenvolver-me e estudar desenvolvimento se vou ser substituído pela IA?
A IA pode desenvolver código para mim, então porque é que eu devo?
Neste ponto, precisamos de considerar o humanismo.
Transcendendo o Humanismo
Para transitar de uma sociedade teocrática onde a religião governava a nação para uma era onde os ‘reis’ podiam explorar a religião, algo tinha de transcender ‘deus’. Os reis usavam a religião, mas a burguesia, que possuía os meios de produção, não tinha uma ferramenta comparável. Começaram a promover a ideia de que a própria humanidade era importante, e isto deu origem ao ‘humanismo’. O humanismo, por sua vez, levou ao surgimento do capitalismo, comunismo, fascismo e outras ideologias.
Por outras palavras, o humanismo é um esforço para se libertar do deus de uma sociedade teocrática.
Alguns que tentaram escapar desta sociedade religiosa foram rotulados como hereges e bruxas, e foram considerados criminosos terríveis. Como é que os vemos da nossa perspetiva atual? Não vemos que eles estavam certos?
A ideia de que ‘a IA é melhor do que os humanos, (ou, mais restritamente,) melhor do que eu’ é um ato de transcender o humanismo.
Talvez esta seja uma forma natural de pensar. Acredito que estamos atualmente num período de transição onde o desenvolvimento da IA está a fazer com que nos libertemos gradualmente do humanismo. Isto é natural, mas espero que possamos minimizar o pânico resultante.
O Que Devemos Fazer?
Como mencionado acima, devemos simplesmente usar a IA naturalmente, desfrutá-la, manter uma perspetiva crítica e, acima de tudo, fazer o que queremos fazer.
Pode haver aspetos negativos neste processo. As seguintes secções explicarão finalmente ‘porque é que eu quero parar de usar a IA no desenvolvimento’.
IA no Desenvolvimento
A IA inegavelmente aumenta a produtividade.
As linguagens que usamos são linguagens de programação. Assim como usamos o coreano para escrever este blog, usamos linguagens de programação para desenvolver programas.
A IA generativa baseada em LLM é especializada em escrita. Portanto, será naturalmente eficaz na escrita de linguagens de programação. Então, devemos usar a IA na programação? Absolutamente!
No entanto, se é um desenvolvedor que está a ‘estudar’, deve considerar como usá-la.
Pelas seguintes razões, decidi não usar a IA, pelo menos durante o processo de aprendizagem.
A IA Rouba as Minhas Notas de Erro
Quando é que normalmente usamos a IA? Eu usei-a muitas vezes ao depurar.
Porque é que isto não funciona? → Código de erro, copiar o código → Colar no ChatGPT
Qual é o problema? Será que os desenvolvedores que estão cansados de erros e depuração examinarão, entenderão e usarão sempre cuidadosamente o código fornecido pelo ChatGPT? Em muitos casos, simplesmente copiarão e colarão o código sem pensar, e se não funcionar, usarão a IA novamente.
Prompt do Utilizador: Isto não funciona, estou a receber este erro.
ChatGPT: Oops, meu erro, deixe-me rever o código.
Será que nunca mais vou cometer este erro? É altamente provável que cometa o mesmo erro novamente e procure ajuda da IA novamente. A possibilidade de internalizar o conhecimento e aprender com o erro é grandemente reduzida.
Se eu sei 99% do processo de cálculo, mas não consigo chegar aos 1% finais, codifiquei bem? Estou simplesmente a delegar o meu cérebro à IA porque estou cansado. Estou a confiar à IA a parte mais crítica, a parte que eu não sei e não consigo fazer.
Roubando o Ambiente Inconsciente e Amigo do Código
Existem muitos desenvolvedores no mundo. É altamente provável que um desenvolvedor do outro lado do mundo tenha experimentado o mesmo erro que eu. Mas será que esse desenvolvedor experimentou o erro exatamente na mesma situação? Será que o código que ele escreveu é o mesmo que o código que eu escrevi? Será diferente. O mesmo erro pode ocorrer em situações completamente diferentes.
A IA bloqueia o acesso a informações sobre o contexto circundante. Ela só depura o código que eu envio e fornece informações sobre esse código, mas não mostra o processo necessário para escrever o código.
‘Claro, pode usar a engenharia de prompt para pedir uma explicação detalhada, certo?’
Ponha a mão no seu coração e pense em quantas vezes esteve demasiado cansado e apenas copiou e colou o código.
Para procurar e investigar um erro, precisa de conhecimento prévio. Será que eu sei claramente tudo sobre este conhecimento prévio? Este blog explica diferentes situações, e esse blog explica diferentes situações. Será que eu entendo todas estas situações? Ao pesquisar no Google, tem de ser capaz de ler e entender ‘Ah~ é diferente da minha situação’ para encontrar outras informações.
Mesmo este simples ato de pesquisa pode tornar os desenvolvedores mais amigos do código.
Não é o ChatGPT o mesmo? Se continuar a usá-lo enquanto codifica, não é a mesma coisa?
A Importância do Ambiente Inconsciente
O melhor exemplo de um ambiente inconsciente é o ambiente doméstico.
Aqui estão duas crianças. Estão a crescer em famílias diferentes. A criança vê um pássaro a voar e pergunta aos seus pais:
‘Mamã (Pai), que pássaro é aquele?’
As respostas dos pais diferem:
- Uma pega.
- Eu estava curioso sobre que tipo de pássaro era, então procurei. Pode ser uma pega ou um corvo, mas parece uma pega.
A primeira família fornece uma resposta direta e apresenta uma solução prática.
A segunda família fornece uma resposta indireta e sugere uma abordagem criativa para explorar a resposta.
Como é que estas crianças crescerão se forem criadas nestes diferentes ambientes?
A criança da primeira família será eficiente a encontrar a resposta correta, mas pode não ser eficiente a lidar com problemas onde a resposta não está prontamente disponível. → ChatGPT
A criança da segunda família pode demorar mais tempo a encontrar uma resposta simples, mas estará mais confortável a pensar em problemas onde a resposta não está prontamente disponível. → Pesquisa e Aprendizagem (Google)
O ambiente inconsciente é formado desta forma e é usado em todos os aspetos da vida diária.
O que acha que é o desenvolvimento? Eu acho que é o último, mas deixarei a escolha a cada indivíduo.
O acima é uma imagem do modelo do iceberg de Freud. Somos inconscientemente influenciados pelas pessoas ao nosso redor e por tudo com que entramos em contacto. Mesmo que não prestemos atenção a alguém apassar a dizer, ‘Uma comida é deliciosa hoje em dia’, isso planta uma consciência superficial de que ‘A comida é deliciosa’. Quando vemos A comida mais tarde, podemos comê-la mais deliciosamente do que realmente é, ou podemos ficar mais desapontados se não corresponder às nossas expetativas. Isto cria uma diferença significativa em comparação com não ouvir as palavras do transeunte.
Mesmo a pequena informação que encontrei enquanto procurava diligentemente informações sobre desenvolvimento - informações que eu não vi conscientemente - acabará por tornar-se um ativo. O inconsciente tem um impacto muito maior do que pensamos.
Em Conclusão: A Minha Filosofia de Desenvolvimento
A minha conclusão é que ‘os LLMs devem ser evitados o máximo possível ao estudar, mas podem ser usados para atividades produtivas’.
Devemos adaptar-nos à era pós-IA, aprender a usar a IA, experimentar o seu impacto em primeira mão e manter uma perspetiva positiva, mas crítica sobre a IA. Devemos reconhecer que a IA acabará por roubar os nossos empregos e considerar sempre que outros impactos pode ter além de roubar os nossos empregos. Reflitamos sobre se a forma como usamos a IA é útil para as nossas vidas e para o nosso pensamento, e evitemos delegar os nossos cérebros à IA.
Após muita confusão, estabeleci finalmente a minha filosofia de desenvolvimento:
Infunda cada linha de código com os meus pensamentos. Não vamos apenas criar letras ou frases simples, mas sim imbuí-las com a minha filosofia e pensamento.
Essa é a diferença entre a IA e eu.
Boa sorte a todos!
Extra: Tratando a Fraca Força de Vontade, Bloqueando Sites de LLM
A fraca força de vontade é uma doença. É ilógico usar a força de vontade para curar a fraca força de vontade, que é causada pela falta de força de vontade. É correto introduzir outras ações para deixar de fumar, beber ou outros hábitos semelhantes.
Da mesma forma, pensei que seria bom para a minha saúde mental bloquear sites de LLM. O seguinte é o meu método para bloquear no Mac:
Introduza o seguinte código no terminal:
Pressione i para mudar para o modo de inserção. Adicione o seguinte ao host 127.0.0.1, tal como na imagem abaixo. Tab após introduzir o endereço.
Pressione ESC para sair do modo de inserção e introduza :wq para guardar. Isto usa DNS (Sistema de Nomes de Domínio), e ‘127.0.0.1 chatGPT.com’ significa que introduzir chatGPT.com na barra de endereços acederá a 127.0.0.1 (o host do servidor do meu computador).
Vamos curar a nossa fraca força de vontade juntos!