È consuetudine chiamare memoria cache la memoria incorporata nel processore, che è caratterizzata da alta velocità e viene utilizzata per memorizzare temporaneamente i dati utilizzati più frequentemente.
La necessità di utilizzare la memoria cache è spiegata dalla differenza nella velocità di scambio delle informazioni tra il processore e le varie sezioni della memoria del computer. Il lavoro di qualsiasi applicazione inizia trasferendo i dati necessari da un disco rigido relativamente lento nella RAM (memoria ad accesso casuale del computer) in una sezione dinamica ad accesso casuale. Da lì, possono essere trasferiti alla cache L2 (memoria L2) situata nel chip del processore o su un chip SRAM separato ad alta velocità dedicato situato accanto al processore. Infine, le informazioni più utilizzate possono essere trasferite alla cache L1 (memoria di primo livello), che è una sezione dedicata del processore. La dimensione della cache di primo livello è solo di circa 128 KB, il secondo livello è già di 512 KB. Per confronto, la dimensione della RAM può essere 1 GB L'esecuzione di qualsiasi comando avviene secondo un determinato schema: - analisi dei registri di dati delle informazioni; - scansione dei dati della cache di primo livello; - verifica delle informazioni della cache di secondo livello; - analisi dei dati della memoria principale; - accesso alla memoria dell'hard disk. Il tempo impiegato dal processore per ottenere i dati necessari è direttamente proporzionale al luogo in cui le informazioni sono memorizzate. Pertanto, l'accesso alla cache di primo livello richiede da 1 a 3 cicli, il secondo livello - da sei a dodici cicli e alla memoria principale - decine e, in alcuni casi, centinaia di cicli. La memoria cache svolge un ruolo speciale nel processo di funzionamento del server, perché Il traffico da processore a memoria può essere significativo in questi casi. La struttura della cache serve anche a ridurre il divario tra le velocità del processore, che aumentano del 50% all'anno, e le velocità dei dati della RAM, che crescono solo del 5%. Lo sviluppo in corso del terzo e del quarto livello di memoria cache sembra essere un passo logico in questa direzione. Un'altra possibile direzione di sviluppo potrebbe essere il passaggio alla gestione programmatica della memoria cache.
