Вот, наверное так.

Пусть r - радиус вписанной окружности, а R - описанной, a - сторона n-угольника.
n - число сторон.
Из условия: r = 3(sqrt (6/2) + sqrt (2/2)).

Сторону правильного n-угольника можно найти так:
a = 2r*tg(pi/n).

Радиус описанной окружности правильного n-угольника:
R = {a / [2*sin(180/n)]}

Подставляем a в формулу для R =>

R = {[2r*tg(pi/n)]/[2*sin(180/n)]}