Milan Jovanovic scored the match's only goal on 38 minutes from point-blank range after Nikola Zigic headed a Milos Krasic cross towards him.
The goal came seconds after Miroslav Klose was sent off for two bookable offences.
Germany had more than one chance to salvage a draw but were notably jinxed.
Sami Khedira could have brought the score level late in the first half but the post denied his powerful drive.
A follow-up overhead kick from Thomas Mueller was cleared off the line by the defenders too.
On the hour mark, Serbia goalie Vladimir Stojkovic, who was named man of the match, saved a tame penalty kick from Lukas Podolski.
Now Serbia, Germany and Ghana are all on three points in Group D. The latter team will face Australia, who have only one point, on Saturday.
نرشح لكم
سيميوني: كرة القدم تعتمد على اللاعبين بغض النظر عن أفكار المدربين
إنريكي: راموس يقاتل طوال الوقت ويظهر أنني أخطئ في حقه
قبل مواجهة ليفربول.. باريس سان جيرمان يمطر شباك تولوز بثلاثية
سوبوسلاي يكشف آخر تطورات تجديد عقده مع ليفربول
كايسيدو: أريد أن أصبح أسطورة لـ تشيلسي
وكيل إنزو فيرنانديز: تشيلسي قرر معاقبته قبل سماع ردنا
جريزمان: سأستمر في مساعدة أتلتيكو بكل شيء.. وسنواجه برشلونة بهذه الطريقة
قائمة ريال مدريد - عودة ميليتاو.. وجاهزية بيلينجهام لمواجهة مايوركا












Video: Serbia stun Germany to score maiden WC win
خبر في الجول - الأهلي يستعيد ياسين مرعي بعد تعافيه من الإصابة