Сдается мне, что тетраэдр максимального объема, вписанный в куб, выглядит не так, как у вас нарисовано, а несколько по-другому:

Извините, рисовать умею только в Пайнте, поэтому выглядит несколько кривовато, но смысл понятен - тетраэдр составлен из диагоналей граней куба.
Диагональ грани имеет длину a = V(2), а объем тетраэдра равен
V = V(2)/12*a^3 = V(2)/12*2V(2) = 4/12 = 1/3
C объемом цилиндра, вписанного в тетраэдр, уже сложнее.

Основание цилиндра - это окружность, вписанная в равносторонний треугольник со стороной, равной V(2).
Радиус основания равен V(6)/6. А вот с высотой цилиндра проблемы.