Abrindo a caixa-preta das deep learning

outubro 8, 2021 § Deixe um comentário

Entre as técnicas mais bem-sucedidas de aprendizado de máquinas estão aquelas associadas ao deep learning.

Businessman touching “AI” word on screen of digital booth with fintech infographic. Hi-tech business concept .

Um dos objetivos centrais das pesquisas no subcampo da inteligência artificial conhecida como machine learning, é entender como a máquina aprende diretamente dos dados. Entre as técnicas mais bem-sucedidas de aprendizado de máquinas estão aquelas associadas ao deep learning, que usa várias camadas de representação para aprender recursos descritivos diretamente dos dados de treinamento [1]. Falei um pouco sobre o assunto em três textos anteriores (Visão computacional na era do deep learningConfigurando e depurando uma rede deep learning; e Derivada e Gradiente). Apesar de todo o sucesso das deep learnings, ainda não é muito bem compreendido teoricamente porque elas são tão bem-sucedidas em descobrir padrões em dados estruturados. Uma explicação, baseada na noção de informação relevante, vem ganhando terreno nos últimos anos. 

Leia o texto completo em Update or Die. Publicada em 08 de outubro de 2021.

Problema de matemática

setembro 24, 2021 § Deixe um comentário

Resolver problemas de matemática é uma das formas mais garantidas de se desenvolver o conhecimento na matéria.

Sua importância vem da crença de que a matemática se constrói a partir do raciocínio e não da memorização. Desta forma, a resolução de problemas permite que a pessoa compreenda e consiga explicar os processos usados para chegar às soluções, ao invés de se lembrar de como aplicar um conjunto de procedimentos. 

Leia o texto completo em Update or Die. Publicada em 24 de setembro de 2021.

Derivada e Gradiente

agosto 23, 2021 § Deixe um comentário

Em um texto anterior comentei que uma das causas mais comuns de problemas em redes neurais profundas (deep learning) é o gradiente. Me furtei da explicação alegando que para entender o que é um gradiente seria necessário entender primeiro o que era uma derivada. Pretendo pagar a dívida neste texto. Para tal, vou me basear largamente nos livros de Cálculo do Tom M. Apostol, os famosos Tommy I e Tommy II (no nosso caso, foco bastante no conteúdo que está no capítulo 4 do Tommy I). Na sequência, complemento o texto anterior com as dicas para resolver problemas com gradientes.

Leia o texto completo em Update or Die. Publicada em 23 de agosto de 2021.

O Futuro da Ciência de Dados

julho 2, 2021 § Deixe um comentário

“Em 10 anos os cientistas de dados vão desaparecer”.

A afirmação contundente me acordou naquela tarde sonolenta de sexta-feira. Explico: me reúno periodicamente com um grupo de colegas, principalmente pesquisadores e especialistas de IA, para trocar ideias, experiências ou simplesmente jogar conversa fora. Como estamos espalhados por diversas partes do mundo, os horários são combinados para acomodar a maioria. Neste dia em especial, era por volta das 16h no Brasil e estava sofrendo daquela sonolência do meio da tarde que me é característica. O colega em questão estava na Califórnia e tinha acabado de voltar do almoço. Outro colega, na Alemanha, que já deveria estar pensando no jantar, perguntou se ele havia comido algo estragado. O colega californiano resolveu então aprofundar um pouco mais a afirmação, explicando os motivos de a haver feito.

Leia o texto completo em Update or Die. Publicada em 02 de julho de 2021.

Configurando e depurando uma rede deep learning

junho 4, 2021 § Deixe um comentário

Em texto anterior comentei que era importante definir corretamente o número de camadas e o número de nós neurais em cada camada oculta. Disse até que era o “pulo do gato”. Gostaria de comentar a respeito de algumas regras básicas para isso. Confesso que ao planejar o que escreveria aqui, fui tomado por algumas dúvidas. A principal delas: por que um usuário de tecnologia se interessaria por isso? Afinal, na maioria das vezes não precisamos saber como as coisas funcionam. A aspirina, por exemplo, foi descoberta em 1897 e ainda assim ninguém explicou de forma convincente como funcionava até 1995.

Essa abordagem de descoberta – baseada em respostas primeiro, explicações depois – acumula o que é chamado de dívida intelectual [1]. É possível descobrir algo que funciona sem saber porque funciona e, em seguida, colocar esse entendimento intuitivo em uso imediatamente, assumindo que o mecanismo oculto que a faz funcionar será descoberto mais tarde. Em alguns casos, pagamos essa dívida intelectual rapidamente. Mas, em outros, como no caso da aspirina, deixamos que essa “dívida” se prolongue durante décadas, contando com um conhecimento que não é totalmente entendido. 

Leia o texto completo em Update or Die. Publicada em 04 de junho de 2021.

Visão computacional na era do deep learning

maio 14, 2021 § Deixe um comentário

Durante décadas, o reconhecimento de imagem foi um dos grandes desafios da inteligência artificial.

Escrevo esse texto rodeado pelos meus cadernos e livros, de tamanhos, volumes e cores diferentes. Olho pela janela e vejo o emaranhado de prédios no meu entorno. Cerca de um terço dos neurônios em meu córtex cerebral estão envolvidos no processamento de informações visuais . Para um computador, fazer isto é uma confusão de cores, brilho e sombras. 

Leia o texto completo em Update or Die. Publicada em 14 de maio de 2021.

CovidTrends: Identifying Behaviors during the COVID-19 Pandemic – accepted paper

abril 22, 2021 § Deixe um comentário

Artigo aceito para apresentação, discussão e publicação na Trilha Principal do SBSI 2021: “CovidTrends: Identifying Behaviors during the COVID-19 Pandemic“, de Marcelo Loutfi, Marcelo Tibau, Sean Siqueira e Bernardo Nunes. Neste artigo, identificamos mudanças comportamentais de pessoas durante o período de pandemia de COVID-19, através da análise de termos pesquisados no Google e relação com as notícias. Três comportamentos que se destacaram foram: (i) preocupação inicial com o desabastecimento; (ii) percepção das pessoas em relação à nova realidade e (iii) a crença na bala de prata.

Algoritmo ético

abril 8, 2021 § Deixe um comentário

Descrever um sistema de tomada de decisão como um algoritmo é frequentemente uma maneira de desviar a responsabilidade das decisões humanas.

Para muitos, o termo implica um conjunto de regras baseadas objetivamente em dados ou evidências empíricas. Também sugere um sistema altamente complexo, tão complexo que uma pessoa teria dificuldades para entender seu funcionamento interno ou antecipar seu comportamento quando implantado. Bom, a realidade é que esta definição não é tão precisa assim.

Leia o texto completo em Update or Die. Publicada em 08 de abril de 2021.

Notas sobre estudos em IA e cognição

março 18, 2021 § Deixe um comentário

Entender melhor a mente humana para construir IAs mais robustas.

Apesar do tremendo progresso da inteligência artificial em áreas como tradução automática, classificação de objetos e reconhecimento da fala, a maioria dos sistemas de IA possui, ainda hoje, um foco extremamente restrito. Desenvolvedores da área (eu incluído) têm buscado estudos nas ciências cognitivas (como psicologia, linguística e filosofia) com o objetivo de entender melhor o funcionamento da mente humana e aplicar este conhecimento na construção de IAs mais robustas.

Leia o texto completo em Update or Die. Publicada em 18 de março de 2021.

Inteligência Artificial: surfando as incertezas

março 1, 2021 § Deixe um comentário

“Surfar as incertezas” é geralmente alcançada por meio de modelos preditivos. Em IA, eles tentam imitar o processo preditivo natural do ser humano.

Leia o texto completo em Update or Die. Publicada em 27 de Fevereiro de 2021.

Onde estou?

Você está navegando atualmente a Educação categoria em Marcelo Tibau.