В общеинститутской олимпиаде по математике принимали участие 10 студентов факультета ФЭФ

Воспользуемся классическим определением вероятности.
Всего вариантов выбрать трех призеров:
n=C343=34!3!34-3!=34∙33∙32∙31!1∙2∙3∙31!=5984
Из них благоприятных исходов (один студент ФЭУ, двое с других факультетов):
m=C91∙C252=9!1!9-1!∙25!2!25-2!=9∙8!1∙8!∙25∙24∙23!1∙2∙23!=2700
Искомая вероятность будет равна:
p=mn=27005984≈0,451
Ответ: 0,451