Andrei Andreyevich Markov nació el 14 de junio de 1856 en Ryazan, Rusia y murió el 20 de julio de 1922 en Petrogrado, ahora San Petersburgo. Su madre Nadezhda Petrovna era hija de un trabajador del estado, y su padre Andrei Grigorievich Markov, el hijo de un diácono, estudió en un seminario y obtuvo un puesto como clérigo.
La familia se mudó a San Petersburgo donde Andrei Grigorievich sirvió para el Departamento Forestal y trabajó de administrador de varias propiedades privadas y estatales. Andrei Grigorievich se casó dos veces, con la primera Nadezhda tuvo dos hijos y varias hijas. Andrei Andreyevich fue el mayor de ambos, el pequeño se llamaba Vladimir, que murió de tuberculosis a los 25 años, habiendo ganado antes alguna reputación internacional como matemático.
Durante su infancia Markov tuvo poca salud, teniendo que andar con muletas hasta los 10 años. Su educación secundaria fue en el Gymnasium San Petersburgo, donde mostró ya su talento matemático, aunque no en otras materias. Ya en esta época escribe un primer trabajo sobre integración de ecuaciones diferenciales ordinarias, aunque no presenta nada nuevo. En 1874, entra en la facultad de Físicas y Matemáticas de San Petersburgo. Asiste a las clases de Korkin, Zolotarev y sobre todo de Chebyshev, que era el jefe del departamento de matemáticas.
Después de graduarse, Markov comienza a enseñar en la Universidad de San Petersburgo como ayudante. Consigue su doctorado en 1884, con una disertación Sobre ciertas aplicaciones de las fracciones continuas.
Markov conocía a Maria Ivanova Valvatyeva ya que ella era la hija del dueño de una de las propiedades que su padre administraba. Markov había ayudado a Maria Ivanova a estudiar matemáticas. En 1883, se casan.
Desde 1886 Markov fue profesor contratado de la Universidad de San Petersburgo y en 1893 se convierte en profesor ordinario. En 1886, Chebyshev propone a Markov para la Academia Rusa de ciencias, siendo aceptado como miembro ordinario desde 1896. Formalmente se retiró en 1905, aunque continuó enseñando hasta el final de su vida.
Los primeros trabajos de Markov fueron sobre teoría de números y analisis, fracciones continuas, límites de integrales, teoría de aproximación y convergencia de series. Después de 1900, Markov aplica los métodos de fracciones continuas, que había comenzado su maestro Pafnuty Chebyshev, a la Teoría de Prpbabilidades. Markov fue el más elegante portavoz y continuador de las ideas de Chebyshev. Destaca su aportación al teorema de Jacob Bernoulli conocido como la Ley de los Grandes Números, a dos teoremas fundamentales de probabilidad debidos a Chebyshev, y al método de los mínimos cuadrados.
Estudió sucesiones de variables mutuamente dependientes, con la esperanza de establecer las leyes límite de probabilidad en su forma más general. Probó el teorema Central del Límite bajo ciertas condiciones generales. Sin embargo Markov es particularmente recordado por su estudio de las llamadas cadenas de Markov, sucesiones de variables aleatorias en las cuales la siguiente variable está determinada por la actual variable pero es independiente de las anteriores. Con esto surge una nueva rama de la teoría de Probabilidades y comienza la teoría de los procesos estocásticos.
En 1923, Norbert Wiener introduce rigurosamente los proceso de Markov continuos. Sin embargo, la teoría general fue estudiada, en la década de 1930, por Andrei Kolmogorov. El curso de Markov sobre cálculo de probabilidades y sus memorias originales, modelo de precisión y claridad, contribuyen a la transformación de la teoría de probabilidades en una de las áreas más bonitas y rigurosas de la matemática, contribuyendo al desarrollo de las ideas Chebyshev con su análisis de las dependencias entre variables aleatorias.
Markov estuvo también interesado en la poesía y realizó estudios de estilos poéticos, afición que compartió con Kolmogorov. Aunque Markov desarrolló su teoría de cadenas, desde un punto de vista totalmente teórico, también aplicó estas ideas a cadenas de dos estados, vocales y consonantes, en los textos literarios.
Markov vivió durante un periodo de gran actividad política en Rusia y acabó implicándose. Maksim Gorky, el escritor ruso de relatos y novelista, conocido activista de izquierdas, fue elegido miembro de la Academia Rusa de Ciencias en 1902, pero su elección fue cancelada por orden directa del Zar. Markov protestó y además rechazó los honores que el año siguiente le otorgaron.
En junio de 1907, el Zar Nicolás disolvió la Segunda Duma que había sido elegida y tenía mayoría de izquierdas. En 1913, la dinastía Romanov, que había gobernado Rusia desde el año 1613, celebraba sus 300 años de poder. Markov mostró su desaprobación, celebrando a su vez los 200 años de la Ley de los Grandes Números.
La Revolución Rusa comenzó pronto en 1917, con la subida de los alimentos básicos. En septiembre de ese año Markov pidió a la Academia que le enviara a una ciudad de la Rusia interior. Fue enviado a Zaraisk, una pequeña ciudad, donde enseñó matemáticas en la escuela secundaria sin recibir ninguna remuneración.
Cuando volvió a San Petersburgo, su salud estaba deteriorada y tenía un ojo enfermo. Todavía en 1921, aunque en mal estado de salud, seguía dando clases de probabilidad en la Universidad. Su muerte se produjo en julio de 1922, después de varios meses de agonía.
Markov tuvo un hijo, con su mismo nombre, que nació el 9 de septiembre de 1903 que años después siguió las huellas de su padre y se convirtió en un renombrado matemático, por lo que a veces es confundido.