平假名（ひらがな，Hiragana）从汉字的草书演化而来。片假名（カタカナ，Katakana）则是从汉字楷书取出符合声音的汉字偏旁简化而来，是平安时代初期为了训读汉字而发明。现在的假名字形是在明治时代，当时的日本政府编定五十音而确定下来的。
随着日文书写系统得以成熟和发展，如今汉字用于大部分名词、形容词和动词，而平假名则用来书写动词词尾、纯日语词汇、或者表记汉字难写的词汇。平假名也用于标记日本汉字的读音（振假名）、和书写给汉字水平不够的人为对象的读物，如小孩、日语学习者的书籍。片假名则由于它的方形结构，用于象声词和外来语。片假名用来书写外来语的习惯由来较晚，不过现在反过来有许多外来语词汇正在代替一般词汇。有语言学家估计现今常用日语有3分之1是外来语及和制英语。
日语中的汉字读法分音读、训读两类。大部分日文里的汉字都有音、训二读。
音读，指源自中国的读音，与中文的汉字发音近似。另可细分为吴音、汉音、唐音3类。例：残念（ざんねん）
训读，是与中文读音无关联的汉字读法，是为了标示原来存在的日文词汇而加上联系的汉字，可说是为了解决原本日文词汇有音无字的现象。例：果物（くだもの）
中日两国使用的汉字，本来都是汉字的繁体字。但后来两国都进行了文字改革，有的字我们简化了，日本没有；有的字日本简化了，我们没有。有的字两国都简化了，但简化方式不同。所以要注意区别。此外，也有百余个汉字是日本人根据中国汉字的六书自创的“会意”或“形声”汉字，在中文里是没有的。比如榊（さかきsakaki，杨桐）、畑（はたけhatake田地）、辻（つじtsuji十字路口）等。而日语中常用的汉字有2136个。