Se interesó desde muy joven por la química y por la historia natural. Influido por su padre, que era farmacéutico, comenzó los estudios de farmacia en 1797, al cumplir los veinte años. Tres años después, se licenció en Medicina. Sin embargo, su pasión por la química y en especial por las fuerzas electroquímicas, unida a un interés creciente por la filosofía de la naturaleza, desencadenaron todas sus reflexiones. Tras varios estudios de especialización fue nombrado, en 1804, profesor de física en la Universidad de Copenhague. Sus trabajos principales de investigación estuvieron centrados en el electromagnetismo.
Oersted descubrió la relación que existe entre la electricidad y el magnetismo mientras hacia una demostración a sus alumnos: a comienzos de 1820 advirtió de forma casual, mientras realizaba observaciones sobre el fenómeno eléctrico con una pila análoga a la construida por A. Volta en 1800, que la aguja de una brújula colocada en las proximidades de un hilo conductor por el que circulaba una corriente eléctrica se desviaba. Repitió incesantemente estos experimentos con pilas más potentes y observó que la aguja oscilaba hasta formar un ángulo recto con el hilo y con la línea que unía la brújula y el hilo. Si se la desplazaba de forma continua en la dirección que señalaba la aguja, la brújula describía entonces un círculo alrededor del hilo conductor. Invirtiendo el sentido de la corriente eléctrica, cambiaba asimismo el sentido de la aguja de la brújula. Los efectos persistían incluso cundo se interponían placas de vidrio, metal o madera entre el hilo conductor y la brújula.
Oersted demostró poco después que el efecto era simétrico. No sólo el cable recorrido por una corriente ejercía fuerzas sobre un imán (la aguja de la brújula): también el imán desarrollaba una fuerza sobre la bobina por donde circulaba la corriente eléctrica, actuando un extremo de la bobina como el polo norte de un imán y el otro como el polo sur. Se establecía así la conexión entre los fenómenos eléctrico y magnético.
Sus resultados se publicaron el 21 de julio de 1820 en un folleto de cuatro hojas escrito en latín, difundido con celeridad a las academias científicas de toda Europa, cuyo título era "Experimenta circa effectum conflictus electri inacum magneticam". Oersted fundó más tarde una sociedad para la difusión de la ciencia e inició una intensa labor de conferenciante, a la vez que continuaba con sus investigaciones. En 1822 obtuvo el primer valor fiable de la compresibilidad del agua y en 1825 consiguió utilizar corrientes eléctricas para aislar el aluminio elemental del compuesto alúmina.
Entre sus obras científicas destacan Tentamen nomenclaturae chemicae en 1814, Dissertato de forma metaphysices elementaris naturae externae en 1799, así como numerosos trabajos y publicaciones en revistas.