Fue la figura más destacada del movimiento marxista en los países balcánicos antes de 1917. Militante socialdemócrata desde 1889, se le prohibió el acceso a todos los centros de estudios de Bulgaria. Militó en organizaciones pertenecientes a la Segunda Internacional desde 1890 en Rumania, Suiza, Francia y Alemania, llegando a desempeñar un papel destacado en el Partido Socialdemócrata de Rumania, del que fue miembro fundador en 1912 y máximo dirigente e incluso diputado a pesar de ser expulsado en varias ocasiones del país. Inició una estrecha colaboración política con León Trotsky a partir de 1913.

Internacionalista durante la Primera Guerra Mundial y firme partidario de la izquierda de Zimmerwald. Encarcelado por el Gobierno rumano en agosto de 1916 por su actividad contra la guerra, fue liberado por soldados rusos el 1 de mayo de 1917. Perseguido también en Rusia por oponerse a la contienda, fue ocultado por los bolcheviques y viajó a Suecia, de donde pudo retornar tras el triunfo de la Revolución de Octubre. Participó activamente en la defensa del Estado soviético frente a los invasores rumanos, que actuaban coordinados con las potencias imperialistas. Tras ello se implicó en el movimiento revolucionario ucraniano. En marzo de 1919, Rakovski fue uno de los miembros fundadores de la Internacional Comunista, donde representó a la Federación Comunista Balcánica. Fue presidente del Sóviet de Ucrania en 1918 y líder de la República Soviética de Ucrania hasta 1923.

Dirigente de la Oposición de Izquierda desde su fundación, Rakovski compartió con Trotsky tareas de dirección y de elaboración del programa oposicionista. Fue duramente reprimido por el aparato estalinista, siendo destinado como embajador en Londres en 1923 y en 1925 en París. Posteriormente fue deportado a Asia central en 1928, donde sufrió enfermedades, falta de atención médica y aislamiento.

Después de la derrota de la Oposición de Izquierda en noviembre-diciembre de 1927, Rakovski fue expulsado de la Internacional Comunista, del Comité Central y, finalmente, del Partido Comunista de la Unión Soviética. Deportado a Astrakán y después a Siberia, aislado y enfermo, capituló en 1934, tras un intento fracasado de fuga.

Es cierto que Rakovski, desecho por la cruel represión estalinista y por el ascenso de Hitler al poder, renegó de sus opiniones, pero Trotsky comparó inicialmente esta retractación a la fuerza con la de Galileo Galilei, coaccionado en los potros de tortura de la Inquisición. La persecución contra Rakovski nunca cesó. En 1938 fue uno de los principales acusados del juicio de los Veintiuno, el Tercer Juicio de Moscú y condenado a veinte años de cárcel. Fue fusilado por orden de Stalin en 1941.