Yo cuando grabo guitarras lo hago de 2 maneras.
Una: con un micro apuntando al cono del amplificador de la guitarra y éste conectado o bien a una mesa de mezclas conectada al mac por entrada de audio o la manera que tenga cada mesa de conectarse o el micro directamente a la entrada de audio.
Dos: conectar la salida de auriculares del amplificador a la entrada de audio del mac o pasarla primero por la mesa de mezclas y de ahí al mac.
También hay cables de guitarra de jack a USB. Eso y un soft de simulación de amplificadores y efectos (GarageBand los tiene).
Lo ideal es que si quieres grabar directamente la señal conectando la salida de audio a la entrada del pc es que compres una interfaz de audio (tarjeta de sonido externa) por si las frecuencias altas te estropean la entrada de audio del mac. No tiene porque pero siempre he oído que puede pasar… A mi de momento no me ha pasado pero más adelante seguramente si compre una tarjeta de sonido externa pero de momento tiro con la mesa de voces que teníamos cuando tocaba en un grupo.
Saludos!