投资银行一词在英文中是“Investment banking”，但“投资银行”至少有四层含义：一是机构层面，指金融企业作为金融市场的中介机构；第二，行业层面是指投行的整个行业；第三，业务层面指投资银行经营的业务；第四，学科层面是关于投资银行的理论与实践。目前，国内学术界和实务界对投资银行一词的理解存在混乱，很大程度上是因为没有明确区分这四个层次。笔者认为，由于这个英文短语的四种含义都有对应的中文词汇，所以应该对上述四种含义进行明确区分，即应该分别用投资银行、投资银行、投资银行业务、投资银行业务来表达这四种含义，而不是简单地用投资银行一词。
那么到底什么是投资银行呢？简单来说，投资银行是指以投资银行业务为主要业务的金融机构。然而，读者很容易发现，这其实是一个毫无意义的循环定义，但它至少给了我们一个启示：如果我们定义了投行，我们也就定义了投行。一般来说，投资银行业务可以从广义到狭义来定义：第一，投资银行业务包括所有的金融市场业务；第二，投行业务包括所有资本市场业务；三是投行业务仅限于证券承销、交易业务和并购业务；第四，投行业务仅指证券承销和交易业务。目前普遍接受的是第二种定义，即投资银行业务包括所有资本市场业务。由此，投资银行可以定义为：投资银行是指以资本市场业务为主要业务的金融机构。
根据这个定义，并不是所有从事资本市场业务(或投行业务)的企业都是投行，只有那些主营业务是资本市场业务的企业才是投行。另外，投行不是经营所有资本市场业务的企业，只要主营业务是资本市场业务——，不管是一家还是两家——企业。
当然，这个定义是动态的，因为随着资本市场业务的不断发展，投资银行的内涵也在发展。正如著名投资银行家罗伯特库恩所说，“投资银行是一个有机的过程。——是不断变化、发展、进化的。没有哪本书能做到准确详细？”所以，不要机械地理解投行的上述定义。目前，资本市场业务(或称投资银行业务)主要包括证券承销、证券交易、并购重组、基金管理、项目融资、风险投资、信贷资产证券化等。
至此，我们已经基本明确了什么是投资银行，但仍需要说明以下几点：首先，也许是为了避免混淆，现在有些人用“投资银行”来指代英文中机构层面的投资银行，但有些人仍然按照习惯使用“投资银行”；其次，投资银行业务有时也指证券承销和交易业务。比如国内证券公司投行部开展的业务，就是指证券承销和交易业务。
