Однак, ледве вступивши на трон, король в першу чергу зіткнувся з зовсім іншими проблемами. В ході пруссько-австрійської війни 1866 року на короткий час знову виникла загроза самому існуванню бельгійської держави. Наполеон III по вимагав від Пруссії компенсацію за невтручання в цей конфлікт Франції. І Бісмарк безпосередньо запропонував йому в якості компенсації анексувати Люксембург і Бельгію. На щастя, ця ідея анексії проіснувала недовго - всього кілька тижнів. Після рішучої перемоги Пруссії над австрійсько-саксонської армією в битві при Кеніггреці (або інакше: при Садовій - в Чехії) «залізний канцлер» - так називали Бісмарка - відразу ж змінив свою позицію і виступив проти Франції - тепер про компенсацію не вже не йшлося.
З цієї кризи Леопольд отримав важливий урок. Маленька Бельгія повинна бути сильною у військовому відношенні хоча б на стільки, щоб зуміти в разі нападу захищати свій нейтралітет, поки не прийде допомога з боку дружніх держав. З питання про озброєння здійнялася сильний парламентський суперечка. Католицькі праві виступили як затяті антимілітаристи і заблокували пропозицію про формування армії в 100000 осіб. Конфлікт продовжував тліти майже до смерті Леопольда II в 1909 році. Тільки на смертному ложі монарх зміг нарешті підписати закон про загальний військовий обов'язок. Події Першої світової війни показали, що позиція Леопольда була правильною: бельгійська армія протрималася більше трьох місяців, стримуючи напір переважаючих сил Німецької імперії, і в підсумку за підтримки союзників змогла зупинитися німецький наступ.