El fonógrafo no fue el primer instrumento en grabar sonido, o mejor dicho, en grabar vibraciones sonoras ya que previo a éste fue inventado el fonoautógrafo. Fue sin embargo el primero en grabar un sonido y reproducirlo, aunque la calidad del sonido era mediocre.
El sistema del fonógrafo se caracterizaba por la grabación mecánica analógica de las ondas sonoras para transformarlas en vibraciones mecánicas, gracias a un transductor acústico-mecánico. Las vibraciones surcaban un cilindro de fonógrafo de forma helicoidal. La utilización inversa reproducía el sonido grabado. El cilindro de fonógrafo empezó siendo de cartón y estaba recubierto de estaño, posteriormente de cartón parafinado y para terminar, de cera sólida. También podía estar recubierto de aluminio. Los cilindros gracias a las empresas Edison Records y Columbia Phonograph poseían un sistema estándar (década de 1890). Median 10 cm de largo y 5,7 cm de diámetro y tenían la capacidad de grabar dos minutos de música o cualquier otro tipo de sonido. Un ejemplo de utilización de este instrumento era que para producir 500 cilindros era necesaria la ejecución de la misma obra 25 veces y grabarlos de manera simultánea en 20 fonógrafos.
La primera finalidad del fonógrafo era grabar mensajes telefónicos. Este invento fue derivado de la intensa lucha de Thomas por mejorar el teléfono de Bell. El propio Edison quedó asombrado por la increíble sencillez de su nueva invención, tanto fue así que hasta dejo de lado al poco tiempo su nuevo “juguetito” por su interés por el alumbrado eléctrico. El aparato fue utilizado, por ejemplo, para la grabación de una interpretación del famoso compositor Johannes Brahms. Fue un segmento de la obra Danzas Húngaras y fue llevado a cabo por un representante de la casa Edison, Theo Wangeman. El fonógrafo vivió bastantes discusiones y cuestiones sobre él. Estos conflictos albergaban temas como el perfeccionamiento, la comercialización, la aplicación e incluso hasta la propia labor de Edison en relación con el instrumento.
A partir de la invención del fonógrafo surgieron múltiples instrumentos similares por parte de ingenieros, artistas, científicos,… Pero el único que consiguió eclipsarle fue el Gramófono del alemán Emilio Berliner, que también grababa y reproducía sonido. A diferencia del fonógrafo, éste usaba un disco plano en vez de usar un cilindro. El disco y su utilización tenían un menor coste de producción y ejecución que el cilindro, esto era una gran ventaja con respecto al fonógrafo.