Cuando uso muchos recursos del procesador el sistema se pone lento

Instala 

lm_sensors

Luego, como root, ejecuta

sensors-detect

para configurar los sensores de tu máquina, luego ejecuta

sensors

 para ver la temperatura y otros indicadores del estado de tu equipo.

bueno, especifica mas de tu procesador. la frecuencia por ejemplo y la cantidad de cores y es muy normal que cuando uno convierte un video, el pc se ralentice. ya que es una operacion que usa mucha cpu(descubri america) xD

No comentas de cuantos núcleos es tu CPU, esto importa porque si es de más de 1 podría haber un problema más allá de la gestión de recursos, desconozco si Avidemux de manera predeterminada es capaz de aprovechar los cpu con más de un núcleo.

Algunas soluciones:

• En KDE4, antes de comenzar a editar (aunque también se puede durante, pero no lo sugiero si estamos hablando de aplicaciones de diseño gráfico o video que toman su tiempo en formatear o renderizar), deshabilita los efectos de escritorio, cuando termines con el trabajo los habilitas nuevamente pulsando simultáneamente las mismas teclas, estás son:

Shift+Alt+F12

• Antes de trabajar libera la memoria cache (sin acento), que es información que no es obligatorio mantenerla ahí, está solo para agilizar tareas cotidianas, osea que es prescindible, y para lograr esto basta con aplicar el siguiente comando que libera todo (como root desde consola): 

sync; echo 3 > /proc/sys/vm/drop_caches

• Con 8GB de RAM y si estos son bien reconocidos y están en buenas condiciones, lo mejor es ajustar valores de
  vm.swappiness y vm.vfs_cache_pressure, no recuerdo los valores que MDV trae configurados de manera predeterminada, por lo que solo comentaré como las tengo configurados en mis sistema, el cual suele ser usado para edición gráfica y de videos y solo tengo 1 CPU mononúcleo y 3GB de RAM:

La manera momentánea; Ejecuta los siguientes comandos (como root desde consola):

sysctl -w vm.swappiness=0
sysctl -w vm.vfs_cache_pressure=100

La manera permanente; Editas el archivo /etc/sysctl.conf
(como root) y lo configuras con los valores comentados arriba, si alguno no existe, lo agregas manualmente.

• Por último anexo una herramienta cuyo paquete se llama igual al ejecutable, cpulimit, que sirve para controlar el uso de la CPU por una aplicación determinada, en este casi Firefox (perfectamente puedes reemplazarlo por avidemux), claro que en el caso de firefox, en realidad lo que queremos es cerrarle el paso de sangre a la sanguijuela del plugin flash:
  

  cpulimit -e firefox -l 20

Algunos detalles sobre lo que comentas al final:

• Visualizar los frames solo sirve para entretener la vista, al final de cuentas es otra cosa más derrochando recursos.
• La culpa por lo de Youtube es de el plugin Flash, es una sanguijuela que lamentablemente es un mal privativo necesario.
• La edición de imágenes RAW de hecho es un trabajo que consume muchos recursos debido a la gran cantidad de información que contienen.
• Descarto la Tº como causal de un problema, de ser la culpable sus consecuencias no desaparecerían inmediatamente terminada la tarea. Si habilitas los sensores ten en cuenta que es otra cosa más utilizando recursos, yo no los uso (prefiero hacer una mantención al PC una vez al año).

Nota:

Todo lo que te sucede es normal, ten en cuenta que MDV viene configurada para un uso de escritorio tradicional, es decir, si hablamos de conversión de videos cada uso es puntual por lo que es imposible estandarizalo, lo correcto es que el usuario aprenda a afinar el sistema.

Lo que te sucede es una muy buena razón para acercarse a la consola, todo lo que puedes hacer en avicemux también lo puedes realizar desde la línea de comandos, y claro, obviamente requiere de un esfuerzo por parte del usuario, pero las regalías obtenidas valen la pena.

Personalmente suelo mantener desactivada mi partición swap, esta la habilito solo cuando la experiencia me dice que los henrios de mi CPU mononúcleo y los 3GB de RAM no serán suficientes para una tarea específica, p.e., estar utilizando al mismo tiempo a Gimp, Inkscape, okular con un  manual PDF, Firefox con un video Youtube con un curso de edición y más encima en el fondo hay unos mp3s alegrando el momento. ¡Nada es gratis en la vida! xDDD

Salu2!