про рыбок

Да никак. На очень большой глубине океана (где ловить не получится) может обитать 1% видов, а может и все 99%, хрен проверишь

Если бы речь шла, к примеру, об огромном мешке с шарами разного цвета, то задача имела бы смысл. А рыбу в океане пусть биологи считают, а не математики.

Количество типов 1<=m<=N. Если все шары однотипны, то нижняя оценка. Если все шары разных типов, то верхняя. Пока не изъяли последний шар, судить о его типе невозможно. Другое дело, что набрав статистику, например, вытащив половину шаров, можно предположить о составе второй половины. Но это область теории вероятности, а не точных наук.
Однако, вопрос касается именно рыб. Поэтому вопрос ставим так: пусть у нас есть объем однородной воды - срез какого-то уровня. Вот в нем вполне возможно оценивать: разбить объем на массив ячеек, некоторым образом выбрать множество этих ячеек и некоторым образом экстраполировать полученный результат. Разные способы выбора и экстраполяции дают разные модели оценки.

Причем здесь вода, ячейки и экстрополяция? Задача чисто вероятностная, предполагается, что нет никаких предположений, относительно того где сколько рыбы и какой. Единственное предположение - о том, что вероятность поймать рыбу данного сорта прямо пропроционально их количеству.

Задача статистическая, поэтому, естественно в ней требуется найти не точный ответ, а гипотезу которая более правдоподобна чем альтернативная гипотеза.

Правда не понятно, что этой задаче делать на шахматном форуме

В жизни, например есть оценки количества видов еще не открытых рыб или, например насекомых, при этом никто ничего не на ячейки не делил

Пока вы не вычерпаете всю воду и не поймаете всех рыб, придется экстраполировать по имеющимся данным. Экстраполяция - более точный термин, чем безликая оценка, потому что первая опирается на набор данных и некие методы, а вторая - на мнение эксперта.
В данной постановке задача не вероятностная, потому что сумма вероятностей не равна 1, и число вероятных исходов не известно.
А вообще, решение дано в условии, если положить, что fi >= 0

Все это мне напоминает изучение несуществующих драконов у Лема.

Теория вероятности - раздел математики... ТОЧНАЯ НАУКА!

Robbins, H.E. (1968) - Estimating the total probability of the unobserved outcomes of an experiment. The Annals of Mathematical Statistics 39, 256-257.

A. Boneh, S. Boneh, and R.J. Caron, "Estimating the prediction function and the number of unseen species in sampling with replacement", Journal of the American Statistical Association 93 (1998) 372?379.

Не путайте статистику, и теорию вероятности...
Это абсолютно разные науки.

Если говорить про математическую статистику - не такие уже и разные.

Чтобы не быть голословным, приведу определение википедии
Математи́ческая стати́стика ? наука о математических методах систематизации и использования статистических данных для научных и практических выводов. Во многих своих разделах математическая статистика опирается на теорию вероятностей, позволяющую оценить надежность и точность выводов, делаемых на основании ограниченного статистического материала (напр., оценить необходимый объем выборки для получения результатов требуемой точности при выборочном обследовании).

Исходно сформулированная задача по-моему полностью соответствует этому определению, а значит является задачей матстатистики. Которая в свою очередь имеет своей математической основой теорию вероятности.
С точки зрения формулировки проблемы - она статистическая, с точки зрения методов решения - проблема теорвера

Она опирается на ТВ. Но она не является Теорией вероятности.
В любом случае это разные науки, просто одна использует мат. аппарат другой.
И теория вероятности и мат. Статистика - точные науки. Мат. статистика применяется на Четкой модели, и всегда дает четкое решение. (соответственно с вероятностью, распределением, дисперсией и т.д.)

Ну ладно, пусть будет по Вашему. Науки конечно разные, но обе используют аппарат ТВ.
Тогда это конечно задача статистики.
На счет четкого решения - вопрос спортный, в зависимости от критерия истинности гипотезы ответ, насколько я понимаю может быть разным.
Кроме того, даже если выбрать, например, критерий истинности Байеса, ответ будет зависеть от априорной вероятности.
Впрочем не понятно о чем спор. Вся математика - точная наука, вопрос просто в интерпретации результатов.

Основная проблема в том, что очень тяжело определить, где один вид рыбы, а где другой

Ну а так ловим некоторое количество. Помечаем, и выпускаем обратно. А потом ловим еще, и оцениваем статистически.