Куб массой M стоит на горизонтальном столе

Система замкнутая (в ней отсутствуют внешние силы), а значит в ней выполняются законы сохранения импульса и энергии.
Начальный импульс шарика:
p0=mv0
Его кинетическая энергия:
E0=mv022
Часть импульса и энергии передастся кубу. Чтобы шарик не упал в верхней точке необходимо, чтобы его центробежное ускорение в этой точке было больше или равно ускорению свободного падения Земли:
a≥g→v2R≥g
Соответственно минимально возможная скорость шарика в этой точке:
v=gR
Запишем законы сохранения импульса и энергии для момента, когда шарик находится наверху:
mv0=Mu-mv→u=mv0+vM
mv022=Mu22+mv22+2mgR
Подставим скорость u из первого уравнения во второе:
mv02=Mm2M2v0+v2+mv2+4mgR
v02=mMv02+2vv0+v2+v2+4gR
Mv02=mv02+2mvv0+m+Mv2+4MgR
v02M-m-2mvv0-m+Mv2-4MgR=0
v02-2mvM-mv0-M+mM-mv2-4MgRM-m=0
Получили квадратное уравнение на v0:
D=2mvM-m2+4M+mM-mv2+4MgRM-m
D=4m2v2+4M+mM-mv2+4MgRM-mM-m2
D=4m2v2+4M2-m2v2+4MgRM-mM-m2
D=4M2v2+4MgRM-mM-m2
Подставим скорость v=gR
D=4MgR2M-mM-m2→D=2MgR2M-mM-m
Корни уравнения:
v0=2mvM-m±D2
v0=mgR±MgR2M-mM-m
Подставим отношение массы шарика к массе куба:
M=4m
v0=4mgR±4mgR8m-m4m-m
v0=4±273gR
Так как 27>4 то физически корректный корень только один, со знаком +:
v0=4+273gR
Ответ: необходима минимальная скорость v0=4+273gR.