O Gargalo de von Neumann é um conceito que descreve a limitação na taxa de transferência de dados entre a memória RAM e o processador, resultando em um desempenho inferior dos sistemas computacionais. Este fenômeno é nomeado em homenagem a John von Neumann, um matemático e cientista de destaque, nascido em 1903, que teve um papel fundamental na evolução da computação.
Durante sua carreira, von Neumann contribuiu para o Projeto Manhattan e para o desenvolvimento do ENIAC, o primeiro computador militar. Em 1945, ele publicou um artigo que introduziu a arquitetura de computadores, que consiste em uma CPU, memória e dispositivos de entrada e saída.
Atualmente, mesmo os processadores mais avançados enfrentam o Gargalo de von Neumann, pois a CPU pode ficar ociosa enquanto aguarda os dados da RAM. Para mitigar essa limitação, a memória cache foi introduzida, melhorando a interação entre a CPU e a RAM. Essa memória é segmentada em níveis, com capacidades que variam entre 24 MB e 36 MB para a cache L3.
A IBM está testando um novo chip chamado NorthPole, que integra a memória RAM diretamente no chip, visando superar o Gargalo de von Neumann. Este chip é projetado para aplicações em inteligência artificial, como reconhecimento de voz e classificação de vídeos.