Milan Jovanovic scored the match's only goal on 38 minutes from point-blank range after Nikola Zigic headed a Milos Krasic cross towards him.
The goal came seconds after Miroslav Klose was sent off for two bookable offences.
Germany had more than one chance to salvage a draw but were notably jinxed.
Sami Khedira could have brought the score level late in the first half but the post denied his powerful drive.
A follow-up overhead kick from Thomas Mueller was cleared off the line by the defenders too.
On the hour mark, Serbia goalie Vladimir Stojkovic, who was named man of the match, saved a tame penalty kick from Lukas Podolski.
Now Serbia, Germany and Ghana are all on three points in Group D. The latter team will face Australia, who have only one point, on Saturday.
نرشح لكم
رومانو: سمولينج يعود لأوروبا من بوابة بورتو
الاتحاد الأرجنتيني يتقدم باستئناف لتخفيض عقوبة لاعبيه ولحاق باريديس بتوقف نوفمبر
مؤتمر جيسوس: لا توجد مشكلة مع رونالدو.. ولا تحولوا الأمور الصغيرة لأزمة
سكالفيني يفتح الباب أمام الرحيل عن أتالانتا.. ونيوكاسل وتشيلسي يترقبان
بسبب انتقاده التحكيم.. الاتحاد الإنجليزي يتهم أربيلوا بسوء السلوك
إصابة تبعد راسبادوري عن إيطاليا أمام فرنسا وتركيا.. وعودته إلى أتالانتا
بيلد: الإصابة تبعد شلوتربيك عن مواجهتي صربيا واليونان
زابيري يتوج بجائزة أفضل لاعب شاب في الدوري الإسباني لشهر سبتمبر










Video: Serbia stun Germany to score maiden WC win