Reminiscências sob a luz do Ebbets Field e do Polo Grounds

setembro 26, 2024 § Deixe um comentário

Possivelmente você não sabe, mas sou um grande fã de baseball. Não sei dizer exatamente quando ou por que essa mania começou, talvez por causa da minha inclinação natural para a estatística, mas aconteceu quando eu ainda era garoto. Joguei durante uma temporada, no meu intercâmbio, como outfielder pelo Flower Mound Jaguars na escola. Foi uma experiência que me fez apreciar ainda mais o esporte e seus detalhes técnicos e estratégicos. 

O baseball sempre teve algo que outros esportes coletivos só começaram a perceber ou fazer muito tempo depois. Foi o primeiro a se profissionalizar, criando uma liga nacional já no final do século XIX, o primeiro a usar numeração nas camisas para identificar os jogadores em campo de forma clara, e o pioneiro a realizar transmissões de jogos por rádio, em 1921, o que aproximou milhões de fãs do esporte [7]. Com essas transmissões, veio também o hábito de registrar estatísticas detalhadas — como rebatidas, corridas e erros — e usar esses dados para melhorar o desempenho individual e coletivo [7]. Muito antes de conceitos como “analytics” dominarem o cenário esportivo moderno, o baseball já utilizava análises profundas para tomar decisões estratégicas, como a formação das defesas e o gerenciamento de arremessadores.

Foi também o primeiro a registrar formalmente sua história, inicialmente por meio da imprensa [8], que acompanhava de perto os acontecimentos de cada jogo e a evolução das equipes, e depois por meio de historiadores contratados pelos times [7], que documentavam as trajetórias dos clubes e de seus jogadores, criando uma memória esportiva detalhada e valorizada. Além disso, o esporte foi pioneiro em estabelecer sistemas organizados de desenvolvimento de talentos, como o farm system, no qual times menores servem como base de treinamento e formação para jogadores que podem, eventualmente, integrar as equipes principais [7]. Essa prática, que vemos hoje no futebol brasileiro com donos de clubes adquirindo outros times para criar grupos e movimentar seus jogadores entre diferentes equipes, teve suas raízes no baseball há décadas. 

Tendo sua história registrada desde cedo, o esporte da bolinha dura mostrou como um entretenimento consegue se integrar firmemente ao tecido social. No dia 24 de setembro do ano de 1957, o Brooklyn Dodgers jogou sua última partida no histórico Ebbets Field. Quando digo histórico, não é exagero. Muitos eventos memoráveis ​​na evolução do chamado passatempo nacional americano aconteceram por lá [8]. Nenhum tão importante quanto o dia, 10 anos antes, quando Jackie Robinson quebrou a barreira da cor na Major League [1].

Para entender a importância do fato, vale uma pequena explicação. No baseball, há apenas uma liga de primeira linha chamada Major League Baseball (MLB), que é semelhante ao campeonato brasileiro de futebol da primeira divisão, o Brasileirão. Essa liga representa o mais alto nível da competição, onde os melhores jogadores e times jogam. Abaixo da MLB, há as Ligas Menores, que funcionam como divisões de desenvolvimento. É onde jogadores mais jovens ou menos experientes começam suas carreiras profissionais e vão subindo, semelhante a como os times de futebol que possuem times juniores ou então a equipes que “emprestam” seus jogadores para outros times que atuam em campeonatos menores. 

Jackie Robinson quebrando a barreira da cor em 1947 foi um acontecimento monumental na história americana porque, na época, a Major League era segregada. Jogadores negros não tinham permissão para competir lá. Quando Robinson se juntou ao Brooklyn Dodgers, ele se tornou o primeiro afro-americano a jogar na MLB, desafiando a segregação racial profundamente arraigada nos esportes profissionais e na sociedade do país [1]. Sua coragem e sucesso abriram portas para outros atletas negros e ajudaram a desencadear conversas sobre igualdade racial nos Estados Unidos, tornando-se um momento-chave no movimento pelos Direitos Civis [8].

Em 1957, Robinson já havia se aposentado, e o dono do Dodgers, Walter O’Malley — junto com seu colega do New York Giants (sim, o homônimo do futebol americano foi criado em homenagem ao original do baseball), Horace Stoneham — decidiram mudar suas equipes de Nova York para a Costa Oeste, levando os Dodgers para Los Angeles e os Giants para San Francisco, marcando o início da expansão do baseball para além da Costa Leste e ganhando uma fortuna no processo.

É difícil imaginar em plena era do esporte 24/7, com seus canais dedicados, lives no YouTube, pay-per-view, etc; o que significou times de baseball abandonando suas origens para pastos mais verdes. Era como se os heróis de milhares de fãs fossem embora para outro mundo [4]. Um componente central da identidade de uma cidade foi arrancado de uma hora para outra. 

Esse foi um golpe devastador para Nova York, especialmente para os bairros do Brooklyn e Manhattan, onde essas equipes eram profundamente enraizadas [2] [3]. Para muitos nova-iorquinos, o baseball era mais do que apenas um esporte — era parte da cultura cotidiana e uma fonte de orgulho local [3]. A decisão de mudar as equipes para a Califórnia foi vista como uma traição, gerando uma sensação de abandono e perda irreparável [2]. Os fãs, que haviam crescido acompanhando seus times, sentiram como se tivessem perdido uma conexão emocional com suas comunidades [1]. A violência simbólica dessa partida afetou o tecido social da cidade e deixou um vazio emocional. A sensação de que interesses econômicos tinham mais valor do que o vínculo com a torcida aumentou o sentimento de alienação.

“Lamentamos decepcionar as crianças de Nova York”, disse o dono do Giants em 19 de agosto de 1957, ao confirmar o inominável [3]. “Mas não vimos muitos dos pais deles lá no Polo Grounds nos últimos anos” [3]. Stoneham tinha um argumento válido, do ponto de vista empresarial. Apesar de contar com o grande Willie Mays, os Giants foram os últimos em público na liga em 1956 e 1957 [3]. 

Mesmo em 1951, o ano do “Shot Heard ‘Round the World”, o público dos Giants foi notavelmente menor do que a média da Major League Baseball na época [5]. Trata-se do home run rebatido por Bobby Thomson contra os Dodgers durante o decisivo Jogo 3 do playoff da National League. O feito de Thomson garantiu o título para os Giants e é considerado um dos momentos mais famosos da história do baseball [8].

Apesar da temporada dramática de 51 dos Giants, coroada exatamente pelo “Shot Heard ‘Round the World”, ter ajudado a aumentar o público no final do ano, os números gerais no Polo Grounds ficaram bem atrás de outros times, como o New York Yankees [3]. Em 1954, o ano em que foram o melhor time de baseball do mundo, a situação se manteve a mesma. Os Giants tiveram uma média de apenas 15.000 torcedores por jogo [3].  

Com os Dodgers não foi muito diferente. Apesar de ganhar o campeonato em 1955 e 1956, Brooklyn teve uma média de apenas 14.000 torcedores por jogo, e o time nem sempre conseguia lotar o Ebbets Field, mesmo quando jogava contra Giants e Yankees, seus rivais históricos [2]. Os torcedores dos Dodgers, que carinhosamente chamavam o time de “Bums” (algo como “Pé-rapados” ou “Vagabundos”) [1], sabiam em seus corações o que a deserção dos Giants significava: seu time também iria para o oeste. Pelo menos os Giants fizeram sua despedida direito, com uma cerimônia graciosa no Polo Grounds e alguns dos antigos astros do time presentes [3].

Walter O’Malley proibiu qualquer evento desse tipo, e em 24 de setembro de 1957, apenas 6.700 torcedores se dispuseram a ir até o Ebbets Field pela última vez [2]. Os Dodgers venceram por 2 a 0, em um jogo que pareceu a Duke Snider (o centerfielder da época) como se estivesse sendo jogado a meia luz [1].

Tenho um poster no meu escritório que diz “Life is fun… Baseball is serious!”. A frase engraçadinha traz no seu cerne um racional muito diferente da lógica que prioriza o lucro imediato e a eficiência financeira sobre a lealdade e o compromisso com a comunidade local. A visão empresarial da direção das duas equipes ignorou o impacto social e cultural que esses times tinham em Nova York. Sob essa ótica, a decisão de abandonar a cidade pode parecer racional, mas ela desconsidera o papel dos clubes esportivos como instituições que conectam pessoas e cultivam identidades coletivas, reduzindo o esporte a uma simples mercadoria. 

Nos anos seguintes, a Califórnia eclipsaria Nova York de muitas maneiras e Stoneham e O’Malley seriam creditados por sua visão e por iniciar uma tendência mais ampla de expansão para a Costa Oeste em outros campos distintos do esporte. Certamente valeu a pena financeiramente. O Los Angeles Dodgers atrai 3 milhões de fãs anualmente para Chavez Ravine, onde fica o novo estádio do time [6]. 

A criação do estádio veio acompanhada de um conflito social significativo, conhecido como a “Batalha de Chavez Ravine”. Antes do estádio ser construído, a área era lar de uma comunidade mexicana-americana de baixa renda que foi despejada sob o pretexto de desenvolvimento habitacional público [6]. As promessas de moradias acessíveis nunca se concretizaram, e o terreno foi posteriormente vendido à cidade de Los Angeles para a construção do Dodger Stadium [6]. 

Esse processo gerou indignação e deixou cicatrizes profundas na comunidade afetada, que viu suas casas destruídas e sua cultura marginalizada. A “Batalha de Chavez Ravine” se tornou um símbolo das lutas de justiça social e dos impactos das decisões urbanas em comunidades vulneráveis, evidenciando as tensões entre interesses corporativos e os direitos dos moradores locais [6].

No final de setembro de 1957, no entanto, havia garotinhos tristes por toda a cidade de Nova York e seus arredores. Garotinhas tristes também, como Doris Kearns Goodwin descreveu em seu maravilhoso livro de memórias, “Wait Til Next Year”. Cinco meses depois que os Bums deixaram o Brooklyn, enquanto os jogadores se reuniam em Vero Beach, na Flórida, para o spring training, como a pré-temporada é conhecida, a mãe de Doris Kearns morreu [4]. Tudo o que seu pai enlutado pôde dizer naquele momento foi: “My pal is gone. My pal is gone” [4] (algo como “minha companheira se foi”). “My pal” também poderia ser traduzido como “meu amigo” e muitos nova-iorquinos se sentiram da mesma forma. Seus amigos – os jogadores de baseball – se foram.

Em julho de 2024 estava de volta a Nova York. Em um domingo quente de verão fui com alguns amigos em um dos campos de baseball do Central Park para uma partidazinha. Jogamos até o sol começar a se pôr, e foi um daqueles dias em que a simplicidade do momento faz você esquecer das preocupações da vida. Mais tarde, ao checar meu celular, recebi a notícia de que meu cachorrinho, Zizou, havia falecido: “my pal is gone”. 

Referências

[1] Golenbock, Peter, and Paul Dickson. Bums: An oral history of the Brooklyn Dodgers. Courier Corporation, 2010.
[2] Marzano, Rudy. The Last Years of the Brooklyn Dodgers: A History, 1950-1957. McFarland, 2015.
[3] Hynd, Noel. The Giants of the Polo Grounds: The Glorious Times of Baseball’s New York Giants. Red Cat Tales Publishing LLC, 2019.
[4] Goodwin, Doris Kearns. Wait ‘Til Next Year: A Memoir. Simon & Schuster, 1997.
[5] Tygiel, Jules. The Shot Heard’Round the World: America at Midcentury. Baseball and the American Dream. Routledge, 2016. 170-186.
[6] Shatkin, Elina. The Ugly, Violent Clearing of Chavez Ravine before It Was Home to the Dodgers. LAist, October 17, 2018. Available at: https://laist.com/news/la-history/dodger-stadium-chavez-ravine-battle.
[7] Vecsey, George. Baseball: A history of America’s favorite game. Vol. 25. Modern Library, 2008.
[8] Posnanski, Joe. Why We Love Baseball: A History in 50 Moments. Penguin, 2023.

Leia esse texto também em Update or Die. Publicado em 25/09/2024.

Read the English version of this text on Substack or Medium.

LLMs Segurança – Parte2

setembro 11, 2024 § Deixe um comentário

Segunda parte do vídeo sobre cybersegurança em LLMs.

Os LLMs geralmente dependem do contexto para gerar suas respostas. Quando um modelo é treinado para evitar conteúdo controverso ou prejudicial, ele segue padrões e regras que limitam suas respostas a certos tópicos ou áreas. No entanto, essas restrições podem levar a lacunas não intencionais ou brechas em sua compreensão ou interpretação, onde respostas não intencionais podem ser produzidas devido à maneira como a IA interpreta prompts ambíguos ou complexos. Como o treinamento é projetado para evitar tópicos específicos, o modelo pode interpretar mal certas entradas, levando a respostas não intencionais ou imprecisas, são os chamados loopholes. Aqui veremos como esses loopholes são explorados, além de modos para manipulação do modelo. Neste caso, pessoas com acesso ao processo de treinamento ou finetuning do modelo podem manipulá-lo para produzir respostas proibidas. Isso envolve ajuste de parâmetros, adição de conjuntos de dados específicos durante o processo de finetuning ou o ajuste de pesos para priorizar determinadas saídas.

Abaixo, os links explorados no vídeo:

LLMs Segurança – Parte 1

setembro 2, 2024 § Deixe um comentário

Primeiro vídeo a respeito do tema segurança (cybersecurity) em LLMs. Abaixo, os links comentados no material:

Jailbreaking em LLMs: https://www.lakera.ai/blog/jailbreaking-large-language-models-guide

Paper “Jailbroken: How Does LLM Safety Training Fail?”: https://arxiv.org/abs/2307.02483

Paper “Universal and Transferable Adversarial Attacks on Aligned Language Models”: https://arxiv.org/abs/2307.15043

Post “12 prompt engineering techniques”: https://cobusgreyling.medium.com/12-prompt-engineering-techniques-644481c857aa

LLMs  Progresso Algorítmico – Parte 2

julho 8, 2024 § Deixe um comentário

Segundo vídeo sobre o progresso algorítmico dos LLMs. Aqui conversamos sobre o que esperar do futuro dos LLMs.

Material adicional:

Sistemas de pensamento: https://www.uiux.pt/2021/04/01/how-we-think-and-make-decisions/

Tree of Thoughts: https://arxiv.org/abs/2305.10601

AlphaGo: https://www.zdnet.com/article/deepmind-alphago-zero-learns-on-its-own-without-meatbag-intervention/

Diplomacy: https://arxiv.org/abs/2210.05492

Self-improvement looping (Imagination-Searching-Criticizing): https://www.linkedin.com/pulse/toward-self-improvement-llms-via-imagination-vlad-bogolin-cnzje/

PIT reward model: https://hackernoon.com/ai-self-improvement-how-pit-revolutionizes-llm-enhancement

LLMs Progresso Algorítmico – Parte 1

julho 1, 2024 § Deixe um comentário

Primeiro vídeo sobre o progresso algorítmico dos LLMs. Aqui vemos como é avaliado o progresso dos LLMs.

Material adicional:

Evolução dos modelos de IA: https://epochai.org/data/notable-ai-models#explore-the-data

Leis de dimensionamento (scale laws): https://medium.com/@zaiinn440/training-at-scale-chinchilla-scaling-laws-for-compute-optimal-training-of-llms-eca49f58c358

Multimodalidade (visão): https://blog.codepen.io/2023/03/15/gpt-4-demo-turns-a-crude-sketch-of-a-my-joke-website-into-a-functional-website-for-revealing-jokes/

Multimodalidade (áudio): https://openai.com/index/chatgpt-can-now-see-hear-and-speak/

O Outro artificial

junho 25, 2024 § Deixe um comentário

Explore os conceitos de alteridade e AI Risk neste artigo filosófico sobre inteligência artificial e o impacto nas interações sociais e culturais.

Este é o primeiro artigo de uma série de ensaios que estou desenvolvendo sobre alinhamento de IA. A “pegada” desses ensaios é mais filosófica e menos técnica, para trazer ao grande público discussões que acontecem em departamentos de Pesquisa e Desenvolvimento de empresas de tecnologia, bem como em universidades.

No texto, pretendo abordar o conceito do “Outro” (ou alteridade). Essa é uma ideia fundamental na filosofia e na teoria social, que enfatiza a distinção entre o eu e o “Outro”, um conceito crucial para compreender a identidade, a diferença e a dinâmica das interações sociais e culturais.

Na filosofia hegeliana, a alteridade é um componente necessário da autoconsciência. O eu só toma consciência de si mesmo reconhecendo o que não é, através do encontro com o “Outro” [1]. Essa relação dialética é um processo de definição de identidade [1].

Essa centralidade da relação entre o eu e o “Outro” na experiência humana também está presente na filosofia existencialista, particularmente na obra de Jean-Paul Sartre. Para Sartre, a presença do “Outro” desafia a percepção do eu sobre sua própria liberdade e existência [2]. Esse confronto conduz a sentimentos de alienação e conflito, mas também é essencial para a autoconsciência [2]. 

Emmanuel Levinas introduz uma dimensão ética radical na alteridade [4]. Ele argumenta que o encontro face a face com o “Outro” é o fundamento da ética, pois um rosto (sobretudo “Outro” rosto) exige uma resposta, colocando sobre si a responsabilidade ética de reconhecer e respeitar a alteridade alheia [3].

Interessante, não? Mas, aposto que você está pensando: “o que isso tem a ver com inteligência artificial”? Afinal, é o assunto que estamos tratando aqui. Peço só um pouquinho de paciência, já já veremos. 

Leia o texto completo em Update or Die. Publicado em 25/06/2024.

AI-100: Celebrando uma década de insights em Inteligência Artificial

junho 8, 2024 § Deixe um comentário

Ao fecharmos a primeira década deste estudo centenário AI-100 penso ser um momento oportuno para refletir sobre as percepções significativas e os progressos documentados nos dois relatórios já publicados.

“Em 2014 foi lançado o “Estudo de 100 anos para a Inteligência Artificial”, por uma espécie de consórcio formado por universidades de ponta dos EUA, Canadá e Índia e pelos departamentos de pesquisa de empresas de tecnologia. Para “tocar o trabalho” foram formados um comitê administrativo para cuidar da organização e gerenciamento do estudo (afinal a ideia é que dure pelo menos 100 anos) e um painel de especialistas destinados a analisar o que tem sido feito na área e tentar prever os caminhos e os impactos da Inteligência Artificial no futuro da humanidade.”

Esse foi o primeiro parágrafo do primeiro texto de cinco que escrevi em 2016 comentando sobre o estudo que ficou conhecido como AI-100, sediado na Universidade de Stanford. De lá para cá, escrevi tanto sobre o primeiro relatório quanto sobre o segundo, de 2021 (deixo aqui links para o último texto sobre o relatório de 2016, com link para os demais e do texto de 2022 sobre o relatório do ano anterior). 

O projeto foi concebido para antecipar e compreender os impactos a longo prazo da inteligência artificial na sociedade, estabelecendo um precedente para a colaboração interdisciplinar e pesquisa científica, além de manter uma certa visão de futuro que poderia ser resumida pela seguinte pergunta: como a IA pode colaborar com o desenvolvimento humano? Ao fecharmos a primeira década deste estudo centenário, penso ser um momento oportuno para refletir sobre as percepções significativas e os progressos documentados nos dois relatórios já publicados.  

O relatório inaugural de 2016 preparou o terreno ao explorar o estado-da-arte da inteligência artificial ​​naquele momento e a sua trajetória potencial ao longo dos próximos cem anos. O relatório foi um exame abrangente das capacidades, limitações e mudanças sociais que ela poderia gerar. Enfatizou o potencial transformador da tecnologia ​​em vários setores, principalmente na educação. Estudos na área estavam sendo concebidos para revolucionar as práticas educativas, oferecendo experiências de aprendizagem personalizadas e sistemas tutoriais inteligentes, que poderiam apoiar professores e alunos de formas sem precedentes. O relatório também abordou alguns conceitos comumente equivocados sobre a inteligência artificial, esclarecendo o que a tecnologia poderia alcançar de forma realista e o que permaneceria no campo especulativo. Este trabalho inicial foi importante para enquadrar a IA não como um conceito futurista distante, mas como uma força imediata e em evolução na vida quotidiana.

Um desses equívocos era a ideia de que a inteligência artificial em breve ultrapassaria a inteligência humana em todos os aspectos. Embora a IA tenha feito progressos impressionantes em áreas específicas como o reconhecimento de padrões e o processamento de dados, o relatório esclareceu que suas capacidades ​ainda estavam longe de replicar todo o espectro das capacidades cognitivas humanas, como a inteligência emocional, a criatividade e a resolução geral de problemas.

O relatório de 2016 também desmascarou a noção de que esses sistemas tecnológicos são infalíveis e isentos de preconceitos. Destacou casos em que a IA perpetuou preconceitos existentes nos dados de formação, enfatizando a necessidade de testes rigorosos e monitoramento contínuo para garantir justiça e precisão na sua aplicação.

Estes esclarecimentos foram cruciais para mudar a narrativa no sentido de uma compreensão mais realista dos pontos fortes e limitações da inteligência artificial e tiveram um impacto profundo no desenvolvimento da IA ​​generativa, como o ChatGPT, nos anos seguintes. Ao reconhecer suas limitações ​​e abordar conceitos equivocados, as pesquisas sobre o tema foram encorajadas a concentrar-se em avanços específicos e alcançáveis. Essa perspectiva realista impulsionou o desenvolvimento de modelos generativos de IA com uma compreensão clara das suas capacidades e limitações. Por exemplo, a ênfase na compreensão e na mitigação de preconceitos levou à criação de protocolos de desenvolvimento e métodos de avaliação mais robustos, fornecendo ferramentas de avaliação para que modelos, como o ChatGPT, pudessem gerar resultados menos enviesados.

Além disso, o esclarecimento de que a IA não ultrapassaria, no curto e médio prazo, a inteligência humana em todos os aspectos, estimulou o foco no aprimoramento de capacidades específicas onde essa tecnologia poderia se destacar, como a compreensão e geração de linguagem. Isso levou a avanços significativos no processamento de linguagem natural, permitindo a criação de modelos sofisticados capazes de compreender o contexto, gerar texto coerente e envolver-se em conversas significativas (exatamente o que as versões atuais de IA generativa fazem). Ao nos concentrarmos nesses objetivos alcançáveis, foi possível fazer progressos constantes no desenvolvimento da tecnologia que pudessem ajudar e melhorar o resultado de tarefas humanas, ao invés de subistituí-las.

Uma das principais discussões no relatório de 2016 foi o impacto da IA ​​no mercado de trabalho. O relatório reconheceu a sua dupla natureza de influência: por um lado, poderia automatizar tarefas rotineiras, potencialmente deslocando trabalhadores; por outro, poderia criar novas oportunidades de emprego e negócios. Essa visão matizada sublinhou a necessidade de políticas proativas para apoiar as transições da força de trabalho, garantindo que os benefícios da tecnologia ​​fossem amplamente partilhados e que os (as) trabalhadores(as) estivessem preparados(as) com as competências necessárias para uma economia impulsionada pela inteligência, artificial e humana. A abordagem equilibrada do relatório destacou a importância de ver a IA como uma ferramenta para aumentar as capacidades humanas.

Com base no que foi estabelecido pelo relatório anterior, o documento de 2021 forneceu uma análise atualizada dos avanços e desafios emergentes da área. Nessa altura, foram feitos avanços significativos nas tecnologias de inteligência artificial, incluindo aprendizagem profunda, sistemas autônomos e ética (com o surgimento do conceito de alinhamento de IA). O relatório documentou aplicações reais, como diagnósticos de saúde, veículos autônomos e modelagem climática, ilustrando a crescente influência da tecnologia ​​em diversos domínios. Estes avanços não foram meramente teóricos, mas tiveram impactos tangíveis, demonstrando o seu potencial ​​para auxiliar no enfrentamento de alguns dos maiores desafios da sociedade. Por exemplo, ferramentas de diagnóstico alimentadas por IA melhoraram a detecção precoce de doenças e a confecção de planos de tratamento personalizados; pesquisas em veículos autônomos tem focado na melhora da sua segurança e eficiência de direção; e modelos climáticos baseados em IA conseguem fornecer melhores previsões para mudanças ambientais e desastres naturais.

O relatório de 2021 também se aprofundou nos impactos sociais da inteligência artificial, abordando questões como preconceito, privacidade e a necessidade de quadros robustos de governança. À medida que esses sistemas se tornarem mais integrados na vida quotidiana, a importância de garantir que funcionem de forma justa e transparente torna-se cada vez mais evidente. O relatório destacou vários casos em que os sistemas de IA perpetuaram inadvertidamente preconceitos, sublinhando a necessidade de monitoramento e melhoria contínua. Esse foco em considerações éticas foi uma prova da evolução da compreensão do papel ​​deste tipo de ferramenta na sociedade – não apenas como um avanço tecnológico, mas como um sistema sociotécnico que deve ser desenvolvido e implantado de forma responsável.

Um aspecto notável do documento de 2021 foi a inclusão de perspectivas globais sobre o desenvolvimento da IA. Reconhecendo que o tema é um fenômeno global, o relatório enfatizou as diversas abordagens e ambientes regulatórios em diferentes regiões. Apelou à colaboração internacional para enfrentar os desafios globais colocados pelo seu uso, tais como garantir o acesso equitativo à tecnologia e mitigar os riscos associados à sua implantação. Este âmbito alargado foi um lembrete de que os impactos da inteligência artificial ​​não se limitam a um único país ou região, mas são verdadeiramente globais por natureza.

Provavelmente veremos avanços ainda mais rápidos daqui para frente, juntamente com implicações sociais cada vez mais complexas. Questões como governança de IA, considerações éticas e cooperação global se tornarão ainda mais críticas. Os primeiros dez anos do estudo AI-100 forneceram informações valiosas sobre o desenvolvimento e os impactos sociais da inteligência artificial. Desde as suas explorações iniciais publicadas em 2016 até às análises mais detalhadas em 2021, o estudo destacou o potencial transformador da tecnologia, bem como os desafios que devem ser enfrentados para garantir que os seus benefícios sejam amplamente partilhados.

À medida que avançamos para a próxima década, o estudo AI-100 está em uma posição única para fornecer embasamento científico para uma pesquisa rigorosa e interdisciplinar que possa verdadeiramente enfrentar os desafios citados no parágrafo anterior. Ao manter uma abordagem inovadora e ao envolver-se em uma ampla gama de perspectivas, a iniciativa tem tudo para continuar a desempenhar um papel importante na definição do futuro da IA.

Este texto também pode ser lido no LinkedIn e em Update or Die.

You can read the English version, “AI-100: Celebrating a Decade of Insights in Artificial Intelligence”, on Substack or Medium.

Introducing the Degree of Knowledge Gain (DKG) Metric: Enhancing Learning Through Online Searches

junho 3, 2024 § Deixe um comentário

In today’s digital age, online search engines have become indispensable tools for education and knowledge acquisition. They provide immediate access to a vast expanse of information, fostering continuous learning by enabling users to refine their queries and explore related concepts. However, evaluating the effectiveness of web searches in fostering true knowledge acquisition presents a unique challenge. Are users merely memorizing facts, or are they engaging in deep learning characterized by comprehensive understanding and integration of knowledge?

My doctoral dissertation, “Quantifying Knowledge Gain in Online Searches: The DKG Metric”, addresses this critical need by introducing a novel metric designed to measure the extent of knowledge gained during web searches.

The Challenge of Measuring Knowledge Acquisition

Web searches offer quick access to information, but they don’t inherently ensure deep learning. Traditional methods of evaluating knowledge gain, such as pre- and post-tests, open-ended exercises, and self-assessments, often fall short in capturing the complexities of digital literacy, cognitive overload, and diverse search strategies. These methods can also be intrusive, disrupting the natural search process.

To overcome these challenges, I developed the Degree of Knowledge Gain (DKG) metric. This model focuses on quantifying the amount of new, relevant information assimilated into a user’s existing knowledge base during online searches. The DKG metric aims to provide a more nuanced understanding of how individuals engage with digital information and learn from it.

How the DKG Metric Works

The DKG metric is introduced through a detailed formalization process that examines the inherent entropy in the search process. This analysis covers how searchers collect information, interact with various sources, and the effort needed to reach certain detection probabilities.

Two experiments were conducted to validate the DKG metric:

  1. Indicators of Learning Transfer: Using the Online Information Searching Strategy (OISS) and a taxonomy of query reformulation, this experiment employed the Think-Aloud Protocol (TAP) and interviews to identify strategies that facilitate knowledge acquisition during online searches.
  2. Validation within Web Search Contexts: This experiment focused specifically on how the DKG metric complements traditional methods of assessing knowledge acquisition. It highlighted the importance of implicit knowledge measures, such as discovering complex information and understanding query complexity, content nuances, and key term identification.

Practical Applications and Implications

The DKG metric offers practical applications for both educators and search engine developers:

  • For Educators: Insights from the DKG metric can help design or curate online resources that are more effective in fostering learning. This could involve creating content that encourages critical thinking and presents information comprehensively.
  • For Search Engine Developers: The DKG metric can guide the refinement of algorithms to prioritize content with high potential for knowledge gain. This may involve ranking resources that not only match keywords but also contribute to deeper understanding and learning.

“Quantifying Knowledge Gain in Online Searches: The DKG Metric” underscores the need for innovative metrics that reflect the complexities of knowledge acquisition in the digital age. By introducing the DKG metric, this work offers a practical model to enhance the educational utility of the web, with significant implications for educational practice and technology development.

If you want to know more about it, you can download the manuscript directly from the Federal University of the State of Rio de Janeiro’s repository here.

Alguma coisa está acontecendo, mas você não sabe o que é

maio 14, 2024 § Deixe um comentário

Explore os limites dos Grandes Modelos de Linguagem (LLMs) e o desafio de encontrar dados de qualidade para treiná-los no mundo digital.

Peguei emprestado o título de um verso de uma canção do Bob Dylan que adoro, Ballad of a Thin Man, mas bem que poderia ser “a sinuca-de-bico dos LLMs”. Ou ainda, a pergunta “de onde vem o conteúdo das IAs generativas?”.

A verdade é que não é surpresa alguma para quem é do meio que estamos ficando sem dados para treinar as novas versões de LLM – Large Language Models (quem tiver interesse, gravei dois vídeos de introdução sobre os Grandes Modelos de Linguagem, com uma pegada técnica mais acessível aos leigos – parte 1 e parte 2). A questão é saber o quanto estamos próximos do limite. Essa semana, conversei com alguns colegas sobre o assunto. Em especial, Mark Cummins, compartilhou algumas estimativas da quantidade total de texto de Internet disponível no mundo. A estimativa do Mark está baseada nas principais fontes públicas e privadas existentes hoje.

Leia o texto completo em Update or Die. Publicado em 14/05/2024.

You can read the English version, “Something is Happening, But You Don’t Know What It Is,” on Substack or Medium.

Introdução aos LLMs – parte 2

maio 2, 2024 § Deixe um comentário

Segunda parte da aula-vídeo sobre LLMs. Aqui, analisamos juntos os componentes do Transformer, a arquitetura usada na maioria dos Large Language Models, e as suas camadas de atenção. Também vemos o processo de finetuning, usado para melhorar a rede neural após a modelagem.

Onde estou?

Você está navegando atualmente a Educação categoria em Marcelo Tibau.