Precisamos falar sobre LaMDA, a IA que o engenheiro do Google achou que havia adquirido autoconsciência

junho 24, 2022 § Deixe um comentário

Quem trabalha com IA já está acostumado com o tipo de interação que um modelo muito sofisticado é capaz de apresentar. Também está acostumado com alegações de autoconsciência, como no caso do LaMDA.

Por alguns dias neste mês de junho de 2022 surgiu como trend topic, quase que do nada, um debate sobre Inteligências Artificiais auto-conscientes. Quase que do nada é uma figura de linguagem minha, porque a controvérsia surgiu sim de algo.

Por volta do dia 11, Blake Lemoine, engenheiro da Google, publicou dois posts [1, 2] a respeito do sistema LaMDA (pronuncia-se “lambda”, como a décima primeira letra do alfabeto grego). Os posts foram meio que uma resposta ao artigo publicado no jornal The Washington Post [3], relatando que apesar do departamento ético da companhia ter recomendado que não se treinasse uma rede neural para “personificar” seres-humanos, a empresa o fez (o sistema LaMDA) e que um de seus funcionários (o próprio Blake Lemoine) acreditava que o sistema havia adquirido autoconsciência.

Lemoine contava em seus posts os motivos que o levaram a acreditar na emergência da autoconsciência e para provar seu ponto, compartilhou transcrições de “conversas” que teve com LaMDA. A Google imediatamente rebateu as alegações, acusou Lemoine de compartilhar informações proprietárias da empresa e o colocou em “paid administrative leave”, que basicamente é o primeiro passo para a demissão (é o nosso famoso “afastado das suas funções”).

Leia o texto completo em Update or Die. Publicado em 23 de junho de 2022.

Sobre quando teremos uma IA de nível humano

maio 6, 2022 § Deixe um comentário

Probabilidade de 10% até 2031, de 50% até 2052 e de quase 80% até 2100.

Open Philanthropy Project (“Open Phil”) é uma fundação interessada em financiar estudos de segurança em IA. Possui cerca de US$ 20 bilhões disponíveis para identificar oportunidades, financiar, acompanhar os resultados e publicar as descobertas. Em 2020, pediu à sua pesquisadora sênior Ajeya Cotra que produzisse um relatório preditivo que pudesse estimar quando a IA atingiria níveis humanos. Ajeya compartilhou comigo um Google Drive com o seu relatório e os modelos usados para a predição e gentilmente permitiu que divulgasse o material. 

Leia o texto completo em Update or Die. Publicado em 06 de maio de 2022.

Uma transformação profunda na IA

abril 1, 2022 § Deixe um comentário

Neste exato momento, há uma cascada informacional acontecendo no meio da Inteligência Artificial, mais especificamente com quem trabalha com redes neurais, como eu.

Há um fenômeno estudado em teoria das redes chamado cascada informacional [1]. Essa cascada se inicia quando mais e mais pessoas, racionalmente, prestam cada vez mais atenção aos sinais informativos transmitidos pelas declarações e ações de outros. Como resultado, amplificamos o volume dos próprios sinais aos quais fomos inicialmente expostos e posteriormente influenciados. Movimentos sociais de vários tipos, incluindo modismos, tendências e rebeliões (e.g., Beatlemania, Primavera Árabe, #MeToo e BBB) podem ser entendidos como um produto dos efeitos da cascada informacional.

Neste exato momento, há uma cascada informacional acontecendo no meio da Inteligência Artificial, mais especificamente com quem trabalha com redes neurais, como eu. O nome da nossa “Beatlemania” se chama Transformers.

Leia o texto completo em Update or Die. Publicado em 01 de abril de 2022.

Computação quântica 101: Quantum gates

março 3, 2022 § Deixe um comentário

Para processar informações, é necessário que um computador tenha a possibilidade de modificar seus bits (caso contrário a máquina não teria lá muita utilidade). Para tal, são usados circuitos computacionais.

Os circuitos dos computadores clássicos consistem em semicondutores e portas lógicas. Os semicondutores são usados para transportar informações pelo circuito, enquanto as portas lógicas realizam manipulações das informações, convertendo os sinais digitais provenientes de suas entradas [1]. Na computação clássica, uma porta implementa operações binárias em entradas binárias, transformando zeros em uns e vice-versa [2]. 

Para exemplificar a ação da porta lógica, peguemos portas de entrada únicas, que podem receber uma entrada (0 ou 1) e fornecer uma saída (0 ou 1). De uma maneira geral, portas lógicas são definidas por tabelas verdade. A tabela verdade corresponde às saídas de um sistema para todas as combinações de entrada. Uma porta de entrada única que recebe um 0 como entrada e produz um 0 como saída, ou recebe um 1 e produz um 1, não realiza nada – poderia muito bem não estar no circuito. Esse tipo de operação que não produz um resultado, é chamada de trivial. Uma porta que recebe um 0 como entrada e produz um 1, ou recebe um 1 e produz um 0 pode ser útil em um circuito. Neste caso, dizemos que realiza operações não triviais. No exemplo de portas de entrada únicas, somente há uma operação lógica de Cbit não trivial, a operação NOT, que leva de 0 a 1 e de 1 a 0. 

Leia o texto completo em Update or Die. Publicada em 03 de março de 2022.

Technical Report: A Systematic Mapping Study on Search Engine Industry’s Patent Innovations Focused on Matching the Search Results to User Intent

fevereiro 1, 2022 § Deixe um comentário

Tibau, M., Wolfgand Matsui Siqueira, S. ., S. N. Nunes, M. A., & Pereira Nunes, B. . (2022). A Systematic Mapping Study on Search Engine Industry’s Patent Innovations Focused on Matching the Search Results to User IntentRelaTe-DIA15(1).

URI: http://www.seer.unirio.br/monografiasppgi/article/view/11673

Abstract: This report presents a systematic mapping study to survey patent documents in Brazilian and international databases to characterize the technical state-of-the-art in search engines under the intent matching paradigm as well as to discover the size of academia initiatives as part of the technical state-of-the-art agenda to commercial innovation ventures in the search engine industry. The goal is achieved by the identification of the search engine industry most common innovation claims concerning the intent matching paradigm and by the discussion of important issues regarding its patent application patterns, such as the search engine industry’s proficiency to churn its innovative landscape.

O segundo relatório do estudo de cem anos sobre Inteligência Artificial (AI100)

janeiro 24, 2022 § Deixe um comentário

Em setembro de 2021 foi finalmente publicado o segundo relatório do estudo de cem anos sobre Inteligência Artificial (AI100), intitulado “Gathering Strength, Gathering Storms”.

Uma rápida recapitulação do que se trata: em 2014 foi lançado o “Estudo de 100 anos para a Inteligência Artificial”, por uma espécie de consórcio formado por universidades e departamentos de pesquisa de empresas de tecnologia.

Em 2016 foi publicado o primeiro relatório, que comentei extensamente neste espaço à época (foram cinco textos no total, deixo o link do último deles, onde você pode achar links para os demais). Uma das críticas ao primeiro relatório (de 2016), enfoca o fato dele ter restrito seu escopo apenas a cidades da América do Norte.

O relatório de 2021 é mais abrangente, mas apesar da intenção declarada de “explorar com maior profundidade o impacto que a IA está causando nas pessoas e sociedades em todo o mundo” [1], ainda se vê uma prevalência de membros participantes vindos de universidades americanas, canadenses e de língua inglesa (Escócia e Austrália, mais especificamente).

Leia o texto completo em Update or Die. Publicada em 21 de janeiro de 2022.

Mapping Knowledge Flows in Exploratory Web Searches

janeiro 6, 2022 § Deixe um comentário

Abstract: This paper provides an understanding of the knowledge flow in exploratory Web searches. Based on the Design Science Research epistemology, we represented the information-gathering behaviour and uncovered the knowledge flow of Web searchers as a Knowledge-intensive Process (KiP). By mapping searchers’ steps and paths during Web searches, representing their search patterns and decision-making process, it was possible to reveal the knowledge flow and infer the resources more likely to be selected to meet the searchers’ information needs. With the help of six teachers, we applied the Think-Aloud method in a scenario where they searched for online (educational) resources on the Web. The application of the Think-Aloud method made knowledge-flow processes explicit throughout Web searches. The results can support new strategies for information retrieval systems and be applied to support expertise exchange and innovation.

Access: http://hdl.handle.net/10125/80007

ISBN: 978-0-9981331-5-7

Rights: Attribution-NonCommercial-NoDerivatives 4.0 International

https://creativecommons.org/licenses/by-nc-nd/4.0/

Reflexões sobre “Não olhe para cima!”

janeiro 5, 2022 § Deixe um comentário

O filme defende a confiança na Ciência, mas não para de contradizer essa própria premissa.

Assisti ao filme nessa virada de ano. Confesso que senti alguns desconfortos durante as suas mais de duas horas, alguma coisa na sua narrativa. Nos dias posteriores, tentei articular racionalmente o incômodo, o que me incentivou a escrever essas linhas. Para bem contextualizar o que me deixou ressabiado, não posso deixar de descrever como “enxerguei” o filme. Para isto, farei nos próximos parágrafos um resumo dele, da forma como ficou “gravado” na minha cabeça. Quem ainda não o assistiu, sugiro fortemente que não leia esse texto, contém muitos spoilers

Leia o texto completo em Update or Die. Publicada em 05 de janeiro de 2022.

Computação quântica 101: Postulados da mecânica quântica

dezembro 20, 2021 § Deixe um comentário

O termo “postulados” no contexto da mecânica quântica, foi usado pela primeira vez em 1947 pelo matemático Irving Ezra Segal

Robert L. Jaffe

Como “pontapé inicial”, uma breve descrição de dicionário mostra o significado do termo “postulado” como “o que se considera como fato reconhecido e ponto de partida, implícito ou explícito, de uma argumentação; premissa”. A computação quântica toma como ponto de partida formalizações matemáticas da mecânica quântica, que vêm sendo trabalhadas pelo menos desde a década de 1930 com os axiomas Dirac-von Neumann.

Leia o texto completo em Update or Die. Publicada em 20 de dezembro de 2021.

Computação quântica 101: Processador Eagle

novembro 17, 2021 § Deixe um comentário

A montagem do Eagle, o novo processador de 127 Qbits da IBM.

O Eagle foi desenvolvido em parceria com a Universidade de Tóquio. A escolha do Japão não foi por acaso, SONY, Toshiba, Toyota, Hitachi, dentre outras empresas japonesas, estão investindo pesado em pesquisa científica em computação quântica, sobretudo para a produção de hardwares. Proximidade geográfica, nesse caso, é essencial para acelerar as inovações necessárias em Qbits supercondutores.

Leia o texto completo em Update or Die. Publicada em 17 de novembro de 2021.