Eficiência dos algoritmos e a Lei de Moore

A OpenAI está propondo uma nova forma de medir a eficiência dos algoritmos de Machine Learning (ou seja, como eles podem fazer mais com menos). Usando essa medida, eles mostram que a IA está se tornando mais eficiente em um ritmo perverso, capaz até de desafiar a Lei de Moore.

Em 1965, Gordon Moore, co-fundador da Intel, postou em seu artigo seminal que o número de transistores em um circuito integrado dobraria a cada dois anos, o que é conhecido como lei de Moore. Hoje, 50 anos após essa declaração, os processadores da Intel são capazes de oferecer um desempenho de 3500x do que poderia fazer em sua versão de 1965. Não houve nenhuma outra tecnologia que tenha melhorado a esse ritmo.

À medida que os processadores se tornaram mais leves e rápidos, o mundo dos computadores mudou drasticamente. Um subproduto muito importante dessa inovação é a formação da inteligência artificial como um domínio próprio. O avanço algorítmico também melhorou em um ritmo que ressoa o sucesso dos circuitos integrados. No entanto, ainda não falamos sobre algoritmos em termos de eficiência, como fazemos no contexto dos computadores clássicos. As métricas são geralmente medidas através da precisão ou de alguma pontuação.