Resumo: Um novo algoritmo de IA inspirado na capacidade do genoma de comprimir vasta informação oferece insights sobre a função cerebral e potenciais aplicações tecnológicas. Os pesquisadores descobriram que esse algoritmo executa tarefas como reconhecimento de imagem e videogames de forma quase tão eficaz quanto redes de IA totalmente treinadas.
Ao imitar como os genomas codificam comportamentos complexos com dados limitados, o modelo destaca a vantagem evolutiva da compressão eficiente de informações. As descobertas sugerem novos caminhos para o desenvolvimento de sistemas de IA avançados e leves, capazes de funcionar em dispositivos menores, como smartphones.
Principais fatos:
- O algoritmo de IA comprime informações como genomas, permitindo alta eficiência.
- Ele executa tarefas quase tão eficazmente quanto uma IA de última geração totalmente treinada.
- As aplicações potenciais incluem a execução de grandes modelos de IA em dispositivos como smartphones.
Fonte: CSHL
De certo modo, cada um de nós começa a vida pronto para a ação. Muitos animais realizam feitos incríveis logo após nascerem. As aranhas tecem teias. As baleias nadam. Mas de onde vêm essas habilidades inatas?
Obviamente, o cérebro desempenha um papel fundamental, pois contém trilhões de conexões neurais necessárias para controlar comportamentos complexos. No entanto, o genoma tem espaço para apenas uma pequena fração dessa informação.
Este paradoxo tem deixado os cientistas perplexos há décadas. Agora, os professores Anthony Zador e Alexei Koulakov do Cold Spring Harbor Laboratory (CSHL) desenvolveram uma solução potencial usando inteligência artificial.
Quando Zador encontra esse problema pela primeira vez, ele dá uma nova abordagem a ele. “E se a capacidade limitada do genoma for exatamente o que nos torna tão inteligentes?” ele se pergunta. “E se for um recurso, não um bug?”
Por outras palavras, talvez possamos agir de forma inteligente e aprender rapidamente porque os limites do genoma nos obrigam a adaptar-nos. Esta é uma ideia grande e ousada – difícil de demonstrar. Afinal, não podemos estender os experimentos de laboratório ao longo de bilhões de anos de evolução. É aí que surge a ideia do algoritmo de gargalo genômico.
Na IA, as gerações não duram décadas. Novos modelos nascem com o apertar de um botão. Os pós-doutorandos de Zador, Koulakov e CSHL, Divyansha Lachi e Sergey Shuvaev, decidiram desenvolver um algoritmo de computador que agrupa montes de dados em um pacote organizado – da mesma forma que nosso genoma pode comprimir as informações necessárias para formar circuitos cerebrais funcionais.
Eles então testam esse algoritmo em redes de IA que passam por várias rodadas de treinamento. Surpreendentemente, eles descobriram que o novo algoritmo não treinado executa tarefas como reconhecimento de imagem quase tão eficazmente quanto a IA de última geração. Seu algoritmo se mantém até mesmo em videogames como Invasores do Espaço. É como se ele entendesse inatamente como jogar.
Isso significa que a IA em breve replicará nossas habilidades naturais?
“Ainda não atingimos esse nível”, diz Koulakov. “A arquitetura cortical do cérebro pode acomodar cerca de 280 terabytes de informação – 32 anos de vídeo de alta definição. Nossos genomas acomodam cerca de uma hora. Isso implica que uma tecnologia de compressão de 400.000 vezes ainda não pode ser igualada.”
No entanto, o algoritmo permite níveis de compressão até agora inéditos na IA. Esse recurso pode ter usos impressionantes em tecnologia. Shuvaev, principal autor do estudo, explica: “Por exemplo, se você quiser executar um modelo de linguagem grande em um telefone celular, uma maneira (o algoritmo) poderia ser usado é desdobrar seu modelo camada por camada no hardware”.
Tais aplicações podem significar uma IA mais evoluída com tempos de execução mais rápidos. E pensar que foram necessários apenas 3,5 mil milhões de anos de evolução para chegarmos aqui.
Sobre estas notícias de pesquisa sobre IA, genética e evolução
Autor: Samuel Diamante
Fonte: CSHL
Contato: Samuel Diamante – CSHL
Imagem: A imagem é creditada ao Neuroscience News
Pesquisa Original: Acesso aberto.
“Codificando a capacidade inata através de um gargalo genômico”Por Anthony Zador et al. PNAS
Resumo
Codificando a capacidade inata através de um gargalo genômico
Os animais nascem com extensas capacidades comportamentais inatas, que surgem de circuitos neurais codificados no genoma.
No entanto, a capacidade de informação do genoma é muito menor do que a necessária para especificar a conectividade de um circuito cerebral arbitrário, indicando que as regras que codificam a formação do circuito devem passar por um “gargalo genómico” à medida que passam de uma geração para a seguinte. .
Aqui, formulamos o problema da capacidade comportamental inata no contexto de redes neurais artificiais em termos de compressão com perdas da matriz de pesos.
Descobrimos que diversas arquiteturas de rede padrão podem ser comprimidas em diversas ordens de grandeza, produzindo um desempenho de pré-treinamento que pode se aproximar do desempenho de uma rede totalmente treinada.
Curiosamente, para problemas de teste complexos, mas não simples, o algoritmo de gargalo genômico também captura características essenciais do circuito, levando a uma aprendizagem aprimorada de transferência para novas tarefas e conjuntos de dados.
Nossos resultados sugerem que a compressão de um circuito neural através do gargalo genômico serve como um regularizador, permitindo que a evolução selecione circuitos simples que podem ser facilmente adaptados a tarefas importantes do mundo real.
O gargalo genômico também sugere como os antecedentes inatos podem complementar as abordagens convencionais de aprendizagem no projeto de algoritmos para IA.
