Το λεξικό είναι ανάμεσα στα βιβλία στο τραπέζι.

Yes. They’re the preposition σε (in/at/on) contracted with the definite article:

• σε + το = στο (to/at/on the, neuter singular) → στο τραπέζι “on the table”
• σε + τα = στα (to/at/on the, neuter plural) → στα βιβλία “among/at the books”

Other common contractions for reference:

• σε + τον = στον (masculine singular)
• σε + τη(ν) = στη(ν) (feminine singular; the final -ν is often kept before vowels and certain consonants)
• σε + τους = στους (masculine plural)
• σε + τις = στις (feminine plural)

Both mean “between/among.”

• ανάμεσα σε + accusative is common and neutral in speech and writing: ανάμεσα στα βιβλία.
• μεταξύ + genitive is a bit more formal: μεταξύ των βιβλίων. Both can refer to two items or to a group in modern Greek.

It can mean either, depending on context:

• With objects, it usually means “on the table.”
• With people, it can mean “at the table.” To be explicit about “on top of,” say πάνω στο τραπέζι. To be explicit about “at,” context or verbs like “κάθομαι στο τραπέζι” help.

Slightly. The most natural reading is “The dictionary is among the books on the table,” i.e., the books are on the table. To remove doubt, you could say:

• Το λεξικό είναι πάνω στο τραπέζι, ανάμεσα στα βιβλία.
• Το λεξικό είναι ανάμεσα στα βιβλία που είναι πάνω στο τραπέζι.
• Στο τραπέζι, το λεξικό είναι ανάμεσα στα βιβλία.

Greek nouns have grammatical gender. λεξικό (“dictionary”) is neuter, so it takes the neuter article:

• Singular: το λεξικό
• Plural: τα λεξικά Genitives (for reference): του λεξικού, των λεξικών.

Yes:

• Το λεξικό βρίσκεται… sounds a bit more specific or formal (“is located/found”).
• Το λεξικό είναι… is the common, neutral way (“is”).

Because βιβλία is neuter plural. The correct contraction for neuter plural is στα.
Use:

• στις with feminine plural (e.g., στις καρέκλες “on the chairs”),
• στους with masculine plural (e.g., στους φακέλους “in the folders”).

Alone, that’s odd, because “between” implies two or more. Use:

• Between two specific items: ανάμεσα στο βιβλίο και το τετράδιο (“between the book and the notebook”).
• Between the pages of a book: ανάμεσα στις σελίδες του βιβλίου.

Greek uses σε for both, and the verb clarifies:

• Motion: Βάζω το λεξικό στο τραπέζι. (“I put the dictionary on the table.”)
• Location: Το λεξικό είναι στο τραπέζι. (“The dictionary is on the table.”) To emphasize motion onto the surface, you can also say πάνω στο with a motion verb.

They’re different words:

• τραπέζι = table (neuter)
• τράπεζα = bank (feminine) Watch the ending and the stress: τρα-ΠΕ-ζι vs ΤΡΑ-πε-ζα.