《史记》是“中国第一部纪传体通史”，《汉书》是“中国第一部纪传体断代史”。《汉书》把《史记》的“本纪”省称“纪”，“列传”省称“传”，“书”改曰“志”，取消了“世家”，并入“列传”，体例较《史记》更为整齐统一。
体例内容比较
第一，《汉书》在《史记》的基础上，补充了大量的新材料、新史实，丰富了记事内容。《汉书》记载汉代的典章制度更为详细具体，多收经世之交，还增补了许多人物事迹和史实。
第二，班固对《史记》的部分篇目和内容作了调整。比《汉书》减少了几个传，对《史记》记载的内容作了一些移植删减。《汉书》新增加了《刑法志》、《五行志》、《地理志》、《艺文志》。《刑法志》第一次系统地叙述了法律制度的沿革和一些具体的律令规定。《地理志》记录了当时的郡国行政区划、历史沿革和户口数字，有关各地物产、经济发展状况、民情风俗的记载更加引人注目。《艺文志》考证了各种学术别派的源流，记录了存世的书籍，它是我国现存最早的图书目录。
第三，《汉书》开辟了一些新的领域，扩大了史学的范围，也填补了《史记》的不足。《汉书》的“十志”是在《史记》“八书”的基础上扩展起来。
思想比较
第一，《汉书》的封建正统思想比《史记》浓。《史记》的撰述重在“究天人之际，通古今之变”，而班固的《汉书》则重在“综其行事，旁贯五经，上下洽通”。司马迁能够跳出历史看历史，能用这样一种发展的眼光看待他的写史意义，看到了历史的变化和向前发展，而班固维护汉室的正统思想非常明显。首先，《汉书》极力为汉王朝的合理性作辩解。其次，班固十分自觉地以汉臣自居，多次出现“我汉道”等语，又避明帝之纬，过分尊显汉室。《史记》也有尊汉之意，但比较弱。再次，《汉书》对下层人民的态度与《史记》迥异。又次，班固指责司马迁，认为司马迁所歌颂的朱家等人是“以匹夫之细，窃杀生之权，其罪已不容诛矣”，与司马迁的观点截然对立。最后，《汉书》虽然对统治集团的虚伪、残酷、腐朽于荒淫也有所揭露和批判，但远不如《史记》那么广泛、深刻、尖锐、彻底。
第二，《史记》有较强烈的反天道、迷信的思想，而《汉书》则有宣扬天道、迷信的内容。《史记》怀疑、否定“天道”的思想见于《伯夷列传》、《河渠书》、《儒林列传》等篇。相比之下，《汉书》则大大地倒退。
第三，最能体现《史记》、《汉书》思想差异的，是《货殖》、《游侠》二传。同样论述仁义道德的产生，《史记》、《汉书》都征引《管子》，司马迁则强调经济所起到的决定作用，即经济基础决定上层，与历史唯物主义的观点相合。相比之下，班固所谓“欲寡而事节，财足而不争”，则是迂腐的道德说教。对于游侠，司马迁倾注情感，由衷赞叹。班固他拘泥于封建道德，对游侠很少同情。
《史记》与《汉书》都出自卓绝的历史学家之手，他们都具有史家的实录精神和正义感，所以，两部史书都歌颂了爱国主义精神和民族气节。两部史书对于封建王朝的政治黑暗，帝王的荒淫、权奸的昏庸、外戚的专横都有揭露批判。不过，无论是歌颂，还是批判揭露，《汉书》都远不如《史记》的广度和力度。这不仅因为《史记》是私修，《汉书》是官修；而且决定于作者的思想。司马迁是一位具有朴素唯物思想和进步历史观的伟大思想家，而班固则是一位受封建正统思想影响极深的儒者。
风格比较
现从两书的感情色彩、叙事方法、人物刻画、语言表达四方面比较。
第一，《史记》和《汉书》都能严格遵守史家“不需美、不隐恶”的实录原则，表现出历史学家的文章道德。《史记》的爱憎感情，主观色彩相当明显，而《汉书》常常变成不动声色的客观叙述。
第二，《史记》善于叙事，笔法千变万化，不拘一格。《史记》能做到随物赋形，根据表达内容的需要而采取相应的表现手法。
第三，作为汉代两部纪传体经典史著，《史记》、《汉书》具有巨大的感染力，它们不仅仅向我们提供了一些栩栩如生的人物形象，而且通过这些形形色色的人物，使已经消逝的历史变成可以让人重回历史现场、身临其境的生动画卷。但《汉书》传写人物的成就也略逊《史记》一筹。《史记》中不少篇章真实地叙写了人物性格的丰富性和复杂性。《史记》总是通过生动曲折的情节、矛盾剧烈的场面、个性化的语言、心理活动等表现人物性格，而在《汉书》中，有的被省略、有的被删节，便影响到人物性格的丰富性。总体看来，《汉书》中的人物不如《史记》中的人物生动传神、血肉丰满，因而其文学性亦不及《史记》。
第四，《史记》与《汉书》的语言风格也大不相同。《史记》语言感情浓烈、气势奔放、简练畅达、生动形象，完全是文学家的语言；《汉书》简洁整伤、典雅规范、准确严密、韵味深长，堪称史家语言的典范。《史记》浪漫主义风格，爽快淋漓，不拘形迹，无腐儒气息；而《汉书》喜用古字古词，比较难读。固杨万里说，“司马迁是李太白，班固是杜少陵”。