f : R -> R
f(a+b)+f(a)*f(b) = f(a*b)+f(a)+f(b)

f(x)=0 - самое простое решение

за Пуанкаре!

f(x)=x

(3) больше

(4) ???

(5) больше решений давай

1.Первый случай: пусть f(0) <> 0
Тогда положим b  = 0 . Получим
f(a)  + f(a)*f(0)  = f(0) + f(a)  + f(0)
f(a)*f(0)  = 2f(0)
f(a) = 2 для любого a , то есть f = 2 (постоянная функция)
2.Второй случай: пусть f(0) = 0
Тогда предположим, что в точке 0 функция f  имеет производную. Легко показать, что в этом случае f имеет производную в каждой точке:
(f(a + b) – f(a))/b = (f(ab)  + f(b) – f(a)*f(b))/b
(f(a + b) – f(a))/b = a*f(ab)/ab  + f(b)/b – f(a)*f(b)/b
Правая часть последнего равенства имеет предел a*f’(0) + f’(0)  - f(a)*f’(0) при b ->0. Следовательно, левая часть тоже имеет тот же самый предел при b ->0
f’(a) = a*f’(0) + f’(0)  - f(a)*f’(0)
В результате мы получили линейное дифференциальное уравнение с неоднородной правой частью. Как решать такие уравнения изложено в любом учебнике по дифурам. Пропускаю соответствующие выкладки и сразу приведу ответ:
f(a) = C*exp(-a*f’(0)) + a – 1/f’(0) + 1
где С – произвольная константа
Подставим в последнее равенство условие f(0) = 0, получим
0 = С – 1/f'(0) + 1
C = 1/f’(0) – 1
Окончательный ответ:
1)    f(a) = 2
2)    f(a) = (1/f’(0) -1) exp(-a*f’(0)) + a – 1/f’(0) + 1
Здесь в качестве f’(0) мы можем положить любое число, отличное от 0. Например, если мы положим f’(0) = 1, то получим в качестве частного решения линейную функцию:
f(a) = a

(7)+ Случай f'(0) = 0 рассмотрим отдельно. Тогда линейное уравнение из предыдущего поста примет вид:
f'(a) = 0,
f(0) = 0
Это уравнение имеет единственное решение
3)f(a) = 0

какая прелесть )))))

(7) что-то много
и раздел у ветки поменяйте плиз

(10)решение 2) для проверки еще надо подставить в исходное функциональное уравнение. Для того, чтобы сократить объем вычислений, положим  в исходном уравнении  a = b, получим:
f(a^2) = f^2(a) + f(2a) - 2f(a)
Если в последнем равенстве в решении 2) коэффициент при экспоненте отличен от 0, то левая часть при больших a будет расти как exp(a^2) а правая часть - как exp(2a). Ясно, что exp(a^2) растет быстрее, чем exp(2a). Следовательно, в решении 2) коэффициент при экспоненте = 0, то есть f'(0) = 1
Таким образом, решение 2) принимает вид f(a) = a
Окончательный ответ:
1)    f(a) = 2
2)    f(a) = a
3)    f(a) = 0

(11)+ Среди гладких функций других решений нет.

какие-то частные случаи...

в принципе любые
f(x) = const и f(x) = ax

С другой стороны, насколько помню математику (если подзабыл - мне можно, т.к. закончилась почти 20 лет назад) f : R -> R  - означает что вся вещественная область транслируется  оператором f во всю вещественную область. Тогда f(x) = const не удовлетворяют условиям задачи.

извиняюсь, не для каждой const решением является f(x) = const

(14) Не всю. f : R -> R - определяет принадлежность области определения и области значений полю вещественных чисел. Например sin: R -> R -  Область значений [-1,1] принадлежит R.

(16) ну значит f(x) = ax, f(x) = 0, f(x) = 2

(13)(14)(17)
f(x) = ax при a <> 1 не удовлетворяет условиям задачи

Хочешь опровергнуть (12) - придумай что-нибудь еще.

(18) ок действительно плохо проверил... но и не только для a=1, ещё и для а=0, не?

(19)Для a = 0 получаем
3)    f(x) = 0
То есть эта функция тоже указана