Мерриам-Вебстер:
Guillemet: either of the marks « or » used as quotation marks in French writing.
(Origin: French, from diminutive of Guillaume William (perhaps a printer's name)
First Known Use: circa 1905
Во как серьезно! А OED вообще этого слова не знает (хотя знает, почему-то, синдром Гийена-Барре).