Цитата:
http://en.wikipedia.org/wiki/Sphere_packing
Тут наверное лучше написано, но сейчас разбираться нет времени.
Но по логике надо рассматривать варианты упаковки, заменяя круг многоугольниками: треугольник, квадрат (именно про него мне пришла в голову идея, когда я писал тот пост, но она оказалась не верная), пяти-, шести- и тд-угольник, и вообще говоря не обязательно правильными (по крайней мере сразу неочевидно, хотя и вероятно - или невероятно, если реально не решена).