日本古代称为“倭国”，这是日本人最不愿意听的，其实是误解
然而，由于当时交往并不多，因而对日本并没有详细记载。然而到了东汉，随着日本前来中国的增多，记载也开始详细。在魏晋时期成书的的《三国志》和南北朝成书的《后汉书》中，详细的记录了古代日本的地理位置、风土人情以及被中国册封的历史。
在《三国志》和《后汉书》对日本的记载，基本相同，然而侧重点略有差异，《三国志》对国名、风俗人情等详细描写，而《后汉书》则记载了很多历史事件，言简意赅。如《后汉书•列传•东夷列传》：“倭在韩东南大海中，依山岛为居，凡百余国。自武帝灭朝鲜，使驿通于汉者三十许国，国皆称王，世世传统。其大倭王居邪马台国。乐浪郡徼，去其国万二千里，去其西北界拘邪韩国七千余里。”，指出具体位置和距离。
关于“大和”，有的人认为是起源于公元3世纪的日本政权所在地的大和地区，其实是一种美化，因为大和在日语中读作“亚马托（やまと），并非和“倭”同样发音。当然，由于汉文化的影响，圣德太子（公元574—622年）引用了《论语》中“礼之用，和为贵”有可能，这也是其选用“和”代替“倭”的原因之一。
然而，在未得到中国的允许下，日本由于文字采用的是汉字，自然只能在国内做文章，可是在对外关系上，必须得到中国承认才能更改名字，于是日本便想方设法求得改变。然而这个过程极为曲折。公元668年高句丽被唐所灭之后，日本在公元669年遣使入唐朝贺，提出更改国名。《新唐书》记载：“咸亨元年（670年），遣使贺平高丽。后稍习夏音，恶倭名，更号日本。使者自言，因近日所出，以为名。”。然而并没有明确的历史记载，说明唐朝同意其修改。
