La gomma funziona per abrasione: strofinata sulla carta porta via lo strato superficiale e quindi la scrittura che vi si trova. Per la matita basta una gomma morbida, poiché la grafite lascia un segno leggero. Per l’inchiostro, che impregna di più la carta, la gomma è più dura. Oltre alle polveri abrasive, la gomma contiene altre sostanze che servono a far sì che, quando viene sfregata, si sbricioli eliminando anche la scrittura cancellata, che se no rimarrebbe attaccata alla gomma.