Ο καθηγητής, το γραφείο του οποίου είναι δίπλα στη βιβλιοθήκη, μιλάει πάντα πολύ καθαρά.

του οποίου means whose.

So:

• Ο καθηγητής ... μιλάει πάντα πολύ καθαρά. = The professor ... always speaks very clearly.
• το γραφείο του οποίου είναι δίπλα στη βιβλιοθήκη = whose office is next to the library

Greek often uses ο οποίος / η οποία / το οποίο and its case forms in more formal or careful language.
Here, του οποίου is the genitive masculine singular form and shows possession, just like English whose.

A simpler, more everyday alternative would often be:

• Ο καθηγητής, που το γραφείο του είναι δίπλα στη βιβλιοθήκη, ...

That is very common in spoken Greek. But του οποίου is more elegant and more typical of formal written Greek.

Because το γραφείο is the subject of the verb είναι.

In the relative clause:

• το γραφείο του οποίου είναι δίπλα στη βιβλιοθήκη
• literally: the office of whom is next to the library

Here:

• το γραφείο = the office → nominative, because it is what is next to the library
• του οποίου = of whom / whose → genitive, because it expresses possession

So the structure is:

• [the office] [of whom] is next to the library

not

• [of the office] [of whom]