Klingberg urodził się w 1918 r. w Polsce w religijnej rodzinie żydowskiej, jednak w młodości odrzucił religię i zaczął studiować medycynę w Warszawie. Po wybuchu drugiej wojny światowej wyjechał do ZSRR; cała jego rodzina pozostała w Polsce i zginęła z rąk nazistów.
W Związku Radzieckim zaciągnął się do Armii Czerwonej, w której dosłużył się stopnia majora w korpusie medycznym. Po wojnie wrócił do Polski, a w 1949 r. wraz z żoną Wandą, mikrobiologiem, wyemigrował do Izraela.
W państwie żydowskim wstąpił do armii, a potem zatrudnił się w Izraelskim Instytucie Badań nad Biologią w Nes Cijjona, uważanym za jedną najtajniejszych placówek w kraju. Według zagranicznych mediów produkowano tam broń biologiczną i trucizny wykorzystywane przez izraelski wywiad w zamachach.
Klingberg doszedł do stanowiska wicedyrektora Instytutu, co dawało mu dostęp do najtajniejszych dokumentów i informacji. Miał też bliskie powiązania z przywódcami kraju, m.in. z premierem Lewim Eszkolem.
W autobiografii napisał później, że w wykradaniu poufnych danych i wyników badań z Instytutu pomagała mu zatrudniona tam żona, również radziecka agentka.
Został aresztowany w 1983 r., zdemaskowany przez podwójnego sowieckiego agenta, który pracował również dla Izraela. Choć rząd nie miał przeciw niemu wystarczających dowodów, ostatecznie przyznał się on do współpracy z moskiewskim wywiadem wojskowym GRU. Już wcześniej był dwukrotnie oskarżany o szpiegowanie dla ZSRR, za każdym razem odrzucał jednak zarzuty, a nawet przeszedł pomyślnie badanie wariografem.
Później wyszło na jaw, że Klingberg zaczął pracować dla radzieckiego wywiadu jeszcze przed wyjazdem do Izraela. On sam mówił, że często spotykał się z łącznikami w cerkwi na południu Tel Awiwu oraz podczas podróży do Wiednia i Genewy.
Sąd izraelski skazał go na 20 lat więzienia, z których odsiedział 15, a następnie został zwolniony warunkowo. W 2003 r. wyjechał do swojej córki w Paryżu i tam pozostał aż do śmierci.
