Похоже на проблемы с памятью.
Попробуй дрова на видеокарту перебить (на ней тоже память есть)
Посмотри температуру проца, сис. платы, видеокарты.
Прогу(Everest) качай тут -
http://pchelpforum.ru/viewtopic.php?id=2223
Еще тут читать -
http://forum.oszone.net/thread-87742.html
И тут -
http://forum.ixbt.com/topic.cgi?id=4:79488-2