"Насколько я понял Datasheet выше 8 МГц только с внешним тактовым генератором, но не с кварцованным собственным."
Вероятно, вы не правильно поняли.
У ATmega8 есть
встроенный RC генератор. И он может работать на одной из четырех частот: 1, 2, 4, 8 MHz.
Если же применить
внешний кварцевый резонатор, то получается следующее:
ATmega8-16 - до 16MHz включительно.
ATmega8L-8 - до 8MHz включительно.
Есть такой еще момент - зависимость максимальной рабочей частоты от напряжения питания. В документации на ATmega8 я не нашел ее, поэтому для примера привожу график для ATmega88.
-- Прилагается рисунок: --