Introdução aos LLMs – parte 1
abril 26, 2024 § Deixe um comentário
Primeira aula-vídeo explicando o que são e como são modelados os LLMs (Large Language Models), a tecnologia por detrás das IAs generativas atuais (como ChatGPT).
Materiais adicionais:
Se quiserem entender mais sobre funções: página da Wikipedia sobre o tema ou meu vídeo explicativo AQUI.
Se quiserem conhecer mais sobre Simulacra:
Human Simulacra: A Step toward the Personification of Large Language Models
The Conservation of Expected Evidence and the Narratives
março 22, 2024 § Deixe um comentário
After the arrest of a woman accused of witchcraft, if she was afraid, it would prove her guilt; if she was not afraid, it would also prove her guilt
Friedrich Spee von Langenfeld was a German Jesuit priest who heard the confessions of condemned witches. He criticized the inquisition’s criminal process and witch hunts. In 1631, he wrote a book titled “Cautio Criminalis” (“Prudence in Criminal Cases”), where he sharply described the decision tree for condemning witches. According to Spee, the process essentially cornered the accused in such a way that any reaction could be interpreted as guilt.
In the book, the Jesuit examines the paradoxical standards applied during witch trials, demonstrating how any aspect of a woman’s actions or life decisions could be manipulated to “confirm” her guilt in witchcraft. The process would unfold as follows:
If the accused witch had led a dishonorable life, she was deemed guilty; conversely, a virtuous life was also seen as evidence of guilt, as it was believed witches would feign virtue to deceive others. Upon arrest, if a woman showed fear, it was taken as a sign of guilt; if she showed no fear, this too was evidence, suggesting witches would pretend innocence. Faced with accusations, she had two choices: flee, which would be seen as an admission of guilt, or stay, which was interpreted as the devil’s influence to claim her soul.
A estratégia do conflito
janeiro 22, 2024 § Deixe um comentário
Entenda como a Teoria dos Jogos, proposta por Thomas C. Schelling, pode ser aplicada em situações reais de conflito e negociação.
Esse é o título de um livro escrito na década de 1960 pelo economista Thomas C. Schelling. O livro explora a aplicação da Teoria dos Jogos em diversas situações reais, focando nas interações de indivíduos e grupos em situações de conflito. O trabalho aborda, em ensaios inter-relacionados, alguns conceitos que vêm sendo usados há décadas para justificar desde corridas armamentistas (“a capacidade de retaliar é mais útil do que a própria retaliação”) até o uso de ameaças e promessas em negociações.
Leia o texto completo em Update or Die. Publicado em 22/01/2024.
O que esperar da IA em 2024
dezembro 20, 2023 § Deixe um comentário
Descubra as principais tendências em IA para 2024, desde a escassez de GPUs até o avanço da IA generativa e o aumento da capacidade de trabalho.
O último ano foi marcado pela popularização da IA generativa, com termos como ChatGPT e Bard caindo na “boca do povo”. Também pudemos assistir enormes investimentos na área, como por exemplo os US$10 bilhões que a Microsoft colocou na OpenAI [1] e os US$4 bilhões da Amazon na Anthropic [2]. Enquanto pesquisadores e CEOs debatiam a probabilidade da Inteligência Artificial Geral (na sigla em inglês AGI – Artificial General Intelligence) em redes sociais e manchetes de jornais e revistas [3], os criadores de políticas públicas começaram a levar a sério a regulamentação da IA – a União Européia apresentou o conjunto mais abrangente de políticas que regem a tecnologia até agora [4] e o governo Biden publicou uma Ordem Executiva detalhando 150 requisitos da área para agências federais [5].
Se você tem interesse em IA, 2024 promete ser tão movimentado quanto 2023. Longe de mim querer brincar de cartomante, mas há algumas tendências que vale ficar de olho nos próximos 12 meses. Elas podem impactar tanto no desenvolvimento da área quanto no dia a dia das pessoas. São tópicos que ficarei ligado e que gostaria de compartilhar com vocês. Vamos a eles:
Leia o texto completo em Update or Die. Publicado em 20/12/2023.
A Conservação da Evidência Esperada e as narrativas
novembro 23, 2023 § Deixe um comentário
Depois da prisão de uma mulher acusada de bruxaria, se ela estivesse com medo, isso provaria sua culpa; se ela não estivesse com medo, isso também provaria sua culpa
Friedrich Spee von Langenfeld foi um padre jesuíta alemão que ouvia confissões de bruxas condenadas. Era um crítico do processo penal da inquisição e de sua caça às bruxas. Em 1631 escreveu um livro chamado “Cautio Criminalis” (algo como “prudência em casos criminais”), no qual descreveu de forma mordaz a árvore de decisão para condenar bruxas.
Segundo Spee, a coisa ia mais ou menos assim:
Se a bruxa tivesse levado uma vida má e imprópria, ela era culpada; se ela tivesse levado uma vida boa e adequada, isso também seria uma prova da sua culpa, pois as bruxas dissimulam e tentam parecer especialmente virtuosas. Depois da prisão de uma mulher acusada de bruxaria, se ela estivesse com medo, isso provaria sua culpa; se ela não estivesse com medo, isso também provaria sua culpa, pois as bruxas caracteristicamente fingem inocência e são “caras-de-pau”. Ou ainda, ao ouvir uma denúncia de bruxaria contra ela, a mulher acusada tinha duas opções: poderia fugir ou permanecer; se ela fugisse, isso provaria sua culpa; se ela permanecesse, foi o diabo que a deteve para poder reivindicar sua alma.
Leia o texto completo em Update or Die. Publicado em 22/11/2023.
Computação Quântica 101: é um tipo de mágica
outubro 30, 2023 § Deixe um comentário
A computação quântica tem o potencial de revolucionar a segurança digital. Descubra como o algoritmo de Shor pode um dia “quebrar” a internet.
Ao sentar para escrever essas linhas, me veio à mente os primeiros versos da canção do Queen: “It’s a kind of magic, it’s a kind of magic, a kind of magic (No way)”. Antes de explicar o motivo, vale lembrar que este é o sexto texto de uma série em andamento sobre computação quântica. Os textos anteriores podem ser encontrados na numeração correspondente a seguir: 1, 2, 3, 4 e 5.
As bases da computação quântica foram lançadas em 1981 pelo físico Richard Feynman em uma lendária palestra. Posteriormente, Feynman elaborou sua fala em um artigo publicado no International Journal of Theoretical Physics. Lá ele pontuou que a construção de dispositivos de computação baseados em princípios quânticos poderia desbloquear poderes muito maiores do que os dos computadores clássicos.
Leia o texto completo em Update or Die. Publicado em 28 de outubro de 2023.
A moratória de 6 meses da IA… fez 6 meses
setembro 22, 2023 § Deixe um comentário
Há 6 meses, uma carta assinada por acadêmicos e executivos pediu uma pausa na IA. Gary Marcus lista o que mudou e o que não mudou desde então.
Penso que a maioria deve se lembrar da carta, assinada por milhares de acadêmicos e executivos de tecnologia, pedindo uma “pausa” de 6 meses na pesquisa e desenvolvimento de Inteligência Artificial (IA). Pois é, já faz 6 meses. Fui lembrado essa manhã pelo Gary Marcus, um dos que assinaram a carta. Eu também assinei, mas confesso que me arrependi pouco tempo depois.
Embora as razões do meu arrependimento sejam mais do que confessáveis (percebi que era mais uma estratégia dos que estavam atrás nas pesquisas do que uma preocupação genuína), não vem ao caso explorar essa linha argumentativa neste texto. Gary me listou em um e-mail o que ele considera que mudou e o que não mudou depois da moratória. E isso é mais interessante do que minhas reclamações.
Leia o texto completo em Update or Die. Publicado em 22 de setembro de 2023.
Grothendieck e o estado criativo solitário
agosto 4, 2023 § Deixe um comentário
A capacidade de levantar questões diferenciava Grothendieck, mais do que sua capacidade de respondê-las.
Há muitos anos estava com um grupo, que incluía o matemático Artur Ávila, almoçando na cafeteria do IMPA. A conversa girava em torno do tema “criatividade”. Em dado momento, Ávila pergunta: “já leu Récolte et Semailles do Alexander Grothendieck?”. Respondi que não. Ávila então, enigmaticamente, completou: “Então leia”.
Por alguns anos deixei de lado o conselho e fui cuidar da minha vida.
Leia o texto completo em Update or Die. Publicado em 04 de agosto de 2023.
O Brasil e a onda da inteligência artificial generativa
março 6, 2023 § Deixe um comentário
Em breve estaremos bem abastecidos com serviços de IA generativos concorrentes e de rápida melhoria e nadaremos nos oceanos de conteúdo que eles produzirão. E o Brasil, como vai surfar essa onda?
O ChatGPT, apesar de ainda não ser um produto totalmente finalizado e sim uma iteração inicial de inteligência artificial generativa – IA que produz conteúdo original em vez de simplesmente agir ou analisar dados existentes – teve sua nova versão lançada na primeira semana de março pela OpenAI.
Há muito mais ainda por vir. O Bing, da Microsoft, lançou sua versão argumentativa e emocional do ChatGPT há algumas semanas. A Google está trabalhando no Google Bard, seu concorrente para o ChatGPT. A Meta afirma ter uma versão, mas ainda não decidiu se a lançará. A chinesa Baidu espera lançar seu serviço este mês, assim como a ferramenta de busca sul-coreana Naver.
Leia o texto completo em Update or Die. publicado em 06 de março de 2023.
Reiniciando a IA
março 1, 2023 § Deixe um comentário
Tomei emprestado o título desse texto de um livro publicado pelo Gary Marcus e pelo Ernest Davis em 2019, chamado Rebooting AI . Apesar da “homenagem”, o texto não é propriamente sobre o livro, embora ele seja uma das referências, é sobre o zeitgeist da maioria das pessoas que estão pesquisando e desenvolvendo a IA atual.
Imagem de upklyak no Freepik
Tenho refletido bastante, de 2021 para cá, em como abordar esse assunto para um público mais abrangente. Uso mais ou menos matemática? Mais ou menos conceitos teóricos? Mais ou menos exemplos práticos? O quanto de computação preciso mostrar? Vale a pena incluir códigos de programação? Enfim, são algumas das muitas dúvidas que passaram (e ainda passam) pela minha cabeça.
Mas uma das (poucas) certezas que tenho tido, é da necessidade de tentar passar o “espírito do tempo” que conduz o desenvolvimento da IA. Principalmente porque as discussões que direcionam a inteligência artificial são (quase que) exclusivamente feitas na língua inglesa. Fato que deixa de fora não apenas boa parte da população brasileira, mas também mundial.
Leia o texto completo no LinkedIn. Publicado em 01 de março de 2023.
For an English version, read on Medium or Substack.
