En 1939, Karski rejoint le mouvement de résistance polonais.

Il se rend sous couverture dans le ghetto de Varsovie, où il a pour mission de recueillir des informations et, surtout, d'observer les crimes commis par les nazis à l'encontre des habitants du ghetto. Après la visite, il fait son rapport :

Il y avait une odeur nauséabonde. Les rues étaient en désordre. Les gouttières étaient remplies de matières fécales. Et des cadavres. Des cadavres nus (...) J'ai vu un enfant mourir devant mes yeux et un vieil homme mourir.

L'endroit suivant que Karski a vu de l'intérieur était le camp de transit, qui était le véritable ghetto juif d'Izbica, près de Lublin, en Pologne. Le camp était surveillé par des gardes ukrainiens, et Karski s'est déguisé en l'un d'entre eux. Il a assisté au chargement des Juifs tchèques dans le camp de la mort de Belzec, situé à proximité. Son rapport est le suivant :

Selon le règlement militaire, un wagon de marchandises est conçu pour huit chevaux ou 40 soldats (...) Les Allemands ont donné l'ordre d'en charger 130 à la fois, mais ils en entassaient encore dix (...) Des profondeurs des wagons provenaient un rugissement et des hurlements condamnables. Karski a compté 46 wagons chargés ce jour-là.

En 1942, Karski se rend au gouvernement polonais à Londres, où il montre aux Polonais en exil les microfilms de son rapport. En décembre, le gouvernement polonais publie une note diplomatique officielle, qui constitue le premier appel d'un pays allié à la défense des Juifs et à l'information du public sur l'Holocauste.

Au cours des années de guerre qui ont suivi, Karski a rencontré des dirigeants du monde entier pour discuter du sort des Juifs et des Polonais sous l'occupation allemande. Il a été reçu à la Maison Blanche par le président américain Franklin D. Roosevelt. Malheureusement, il s'est heurté à plusieurs reprises à l'incrédulité. Pour prouver au monde l'existence de l'Holocauste et la lutte de l'État clandestin polonais, il a publié en 1944 le livre État secret, qui est devenu un best-seller aux États-Unis.

Dans les années 1980, la mémoire de Karski et ses réalisations ont été reconnues et, en 1982, il a reçu le titre de "Juste parmi les nations".