Né le 13 février 1933, à Athènes, dans une famille d'origine russe, Konstantinos Costa-Gavras s'installe à Paris dès 1951. En raison des positions politiques de son père (antiroyaliste), Costa-Gavras ne peut étudier en Grèce, où le régime écarte les opposants, et est contraint de fuir Athènes à 19 ans pour pouvoir étudier. Il rejoint Paris, où il s'inscrit en licence de lettres à la Sorbonne tout en travaillant pour assurer sa subsistance. Il s'est intéressé au cinéma en se rendant à la Cinémathèque française qui se trouvait à l'époque rue d'Ulm. Il est ensuite admis à l'Institut des hautes études cinématographiques (IDHEC). Il travaille comme assistant pour Henri Verneuil, Jacques Demy et René Clément.

C'est lors d'un séjour en Grèce qu'il découvre le roman Z, de Vassilis Vassilikos, retraçant l'assassinat du leader de la gauche, organisé par la police et camouflé en banal accident. Dès son retour, il écrit le scénario du film Z en collaboration avec Jorge Semprún. Ne trouvant pas le financement, il en parle à Jacques Perrin. C'est à cette occasion que Jacques Perrin va créer sa propre maison de production pour monter le film et utiliser ses contacts, en particulier en Algérie, où sera tourné le film. Jean-Louis Trintignant a accepté un faible cachet et Yves Montand a accepté de participer. Le film a été un succès à travers le monde; il a été récompensé par le « prix du Jury » au festival de Cannes, l'Oscar du « meilleur film étranger » et celui du « meilleur montage »

Ainsi, vont se succéder : L'Aveu (sur les purges staliniennes en Tchécoslovaquie), État De Siège (dénonciation des ingérences de la CIA dans le tiers-monde), Porté Disparu sur le rôle joué par les Américains dans la chute du gouvernement d'Allende au Chili (Palme d'or et Prix d'interprétation au festival de Cannes, Oscar du Meilleur scénario), Hanna K (qui prend position en faveur des Palestiniens dans le conflit avec Israël), ou encore La Main Droite Du Diable (mise en garde contre la résurgence du fascisme aux Etats-Unis) et Music Box (dans lequel un criminel de guerre nazi tente de se faire passer pour un brave homme).

En 2001, Costa-Gavras réalise Amen (avec Matthieu Kassovitz), drame historique très critiqué sur les connivences entre l'Eglise catholique et les nazis.

Le 13 juin 2007, il est nommé président et administrateur de la Cinémathèque française.

En février 2008, il préside la Berlinale 2008, le festival du film de Berlin.

En 2014, il est président du jury du 40^ème Festival du cinéma américain de Deauville.