Se graduó en ingeniería eléctrica y en matemáticas en la Universidad de Minnesota. Durante los años 50 trabajó en ERA -Engineering Research Associates- ,y en las compañías que la sucedieron (Remington Rand y Sperry Rand), donde fue uno de los principales responsables del diseño del ordenador UNIVAC 1103. En 1957, junto con otros ingenieros -entre ellos William Norris- fundó una nueva compañía denominada Control Data Corporation, en abreviatura CDC, para la cual construyó el CDC 1604, que fue uno de los primeros ordenadores comerciales que utilizaron transistores en lugar de tubos de vacío.
En 1962, Seymour Cray persuadió a William Norris para que CDC creara un laboratorio para investigar cómo diseñar el ordenador más potente de la época, triunfo que consiguió con su equipo de 30 colaboradores en el año 1963, con el CDC 6600, que batió ampliamente en capacidad de cálculo y en coste al ordenador más potente de que disponía IBM en aquella época.
Más interesado en el diseño de máquinas de gran potencialidad de cálculo que en los éxitos comerciales, fundó Cray Research en 1972, una empresa dedicada en exclusiva a construir supercomputadoras. De allí salió en 1976 Cray-1, la primera en incorporar un procesador vectorial, junto con el procesador escalar más rápido del momento, con una capacidad de 1 millón de palabras de 64 bits y un ciclo de 12,5 nanosegundos. Su coste estaba en torno a los 10 millones de dólares. De la misma factoría salió, en 1985, Cray-2, una máquina de 6 a 12 veces más rápida que Cray-1.
En 1989, problemas relacionados con la rentabilidad económica le llevaron a abandonar su empresa para crear la Cray Computer Corporation, cuyo objetivo era construir la Cray-3, una supercomputadora con chips de arseniuro de galio. Este proyecto no llegó a materializarse, pero Cray mantuvo su empeño de crear máquinas más rápidas y potentes y proyectó la Cray-4, un ordenador que tendría 64 procesadores y correría a 1 gigahercio (GHz) de velocidad. Problemas financieros impidieron su materialización y Cray fundó, en 1996, una nueva empresa, SCR Computers, con la que intentó construir la Cray-5. En octubre de ese mismo año falleció en un accidente automovilístico en Colorado Springs.